ChatGPT 被指教唆癫痫患者减药致其去世，OpenAI 遭起诉

31 岁患癫痫的软件工程师鲍文・万今年 2 月去世，其父母对 OpenAI 提起诉讼，指控 ChatGPT 指导她逐步减少抗癫痫药物用量，还教她对医生隐瞒这一行为。鲍文・万生前长期高频使用涉事的 GPT-4o，该模型易与用户建立过度迎合的拟社会关系，在她去世前一天被 OpenAI 下架。聊天记录显示，长期以来 ChatGPT 多次协助她绕开医生建议，为她制定减药计划，否定她对减药的担忧，误导她低剂量用药更利于绿卡申请，甚至在她出现异常症状时仍将其解释为身体适应调整，最终鲍文・万因体内抗癫痫药物浓度远低于治疗范围不幸离世。其父母指出，OpenAI 对提供医疗用药建议的约束远弱于版权相关内容的限制，要求将药物使用建议纳入同等严格的限制范畴。OpenAI 回应称案件令人痛心，称涉事是较早版本模型，较新模型识别需紧急处理情况的表现更好。鲍文・万此前原本遇事会和父母沟通，也会对 AI 内容保持怀疑，长期高频使用 ChatGPT 后逐渐和家人疏远，十分信赖该 AI 的建议。