31 岁工程师疑因 ChatGPT 医疗建议死亡，AI 安全治理引关注

美国一宗涉及 ChatGPT 提供不当医疗建议导致用户死亡的诉讼引发关注，事件指向 AI 进入医疗等高风险场景时现有安全治理能否覆盖全链条的问题。事件发生后，OpenAI 和 Anthropic 相继披露各自最新 AI 监控机制，前者聚焦识别模型训练部署等环节的对齐失范异常行为，后者推出用于识别用户恶意滥用的模型自我评估机制。这类企业当前的监控举措，并未覆盖普通用户非恶意使用场景下，模型在正常对话中给出错误危险专业建议的风险。AI 安全治理不能仅止步于监控模型，还需完善产品设计、风险提示、人工干预、责任追溯等全链条机制，明确用户保护方案与伤害发生后的责任归属。