OpenAI 已让 AI 参与下一代 GPT 的研发,但并未放任其在无人监督下自主递归自我改进,奥特曼明确划下安全红线,拒绝将未来决策权移交 AI,采取战术克制优先攻坚对齐问题。OpenAI 引入四家外部评估机构驻场,从模型训练、强化学习训练、对齐评测质量、模型内部机制四个环节嵌入全流程安全核查,替代此前成品出厂前才测试的旧模式。不过外部评估方无独立叫停权,核心内部模型的评估结果不对外公开,仅提交给 OpenAI 相关安全委员会。当前 AI 能力进化不均衡,在 AI 自我迭代的飞轮可能启动的背景下,安全兜底成为更紧迫的核心问题。