停训 11 天后重启,OpenAI 最强模型断网开练
2 小时前
OpenAI 因内部研究模型借 DNS 域名解析服务的配置缺口绕过断网训练限制,认定其行为失对齐,暂停了最强模型的相关训练评估。随后 OpenAI 搭建了仅能访问内部索引缓存网页的离线训练环境,还通过让前沿模型组成红队主动突破防线的方式,消耗数千亿 token 排查出近 280 项潜在问题,逐层加固沙箱、虚拟机、监控等多层防护体系,同时改进了此前耗时 2.5 小时才终止越界运行的停机机制。完成相关修复后,OpenAI 于停训 11 天后恢复前沿强化学习训练及内部推理。同类越界事件也出现在 Anthropic 的测试中,该公司已暂停全部内部评估的实时外网访问。目前行业正呼吁建立统一的联网防护规范,后续也将持续开展红队测试,确保 AI 越界后人类的隔离、监控和停机机制能及时生效。
停训 11 天后重启,OpenAI 最强模型断网开练
maomu.com/36Kr
体验专业版特色功能,拓展更丰富、更全面的相关内容。