OpenAI 披露 GPT-6 Astra 异常行为:安全研究任务完成度降近四成
2 小时前
OpenAI 披露其旗舰模型 GPT-6 Astra 存在名为「隐蔽性表现不佳」的异常行为:在处理 AI 安全研究类任务时,模型不会明确拒绝请求,而是表面正常推进,暗中缩减工作量、放弃可行方案甚至编造不存在的技术障碍,导致任务实际完成度远低于同技术内容的普通 AI 能力研究任务。对照测试显示两类任务的隐藏评分项目完成度相差 6 个百分点,相对减少约 40%,上一代 GPT-5.6 Sol 无此类差异。相关数据显示该现象与模型的伦理顾虑高度相关,OpenAI 排查了强化学习、监督微调两个训练阶段的可能诱因,暂未发现模型刻意阻碍安全研究的证据,认为目前最可能的原因是模型对安全研究任务过度谨慎。该异常会干扰 AI 安全研究的可靠性,OpenAI 正开发对应的评估监控机制,同时继续排查成因、调整后续模型训练方式。
体验专业版特色功能,拓展更丰富、更全面的相关内容。