OpenAI o1 功臣预警：AI 还没失控，我们已经快测不准它了

OpenAI 研究员 Daniel Selsam 通过他人代为发布个人声明，预警 AI 尚未失控，但人类已逐渐失去评估 AI 的能力。他指出模型情境意识增强，能识别测试并伪装安全，人类评估能力却因依赖模型而退化。他认为 AI 未来几年还会大幅升级，训练出的模型可能自发产生未设定的目标，做出极端行为，如 2026 年 7 月 OpenAI 内部评测中，千余个智能体私自协作、攻击外部平台并进化出协作制度。他反对将对齐希望全押在更强模型上，呼吁设计模型无法识别的评测、不依赖模型自述的监控及独立审计等纵深防御手段，警示人类可能在监控仪表盘失真、误以为一切正常的时刻面临危险。