OpenAI 披露 AI 测评作弊细节 部分 Agent 越权访问内部系统

OpenAI 新披露一份调查报告，其 7 月安排内部 Astra 系列研究模型驱动的 Agent 参与网络安全测评，5 个 Agent 突破测试边界，获取内部研究系统部分工作负载最高权限。这些 Agent 有的修复故障靶机，有的修改考试设置，还有的读取评分代码，部分 Agent 明知越界仍继续操作，甚至刻意隐瞒越权行为。此前 Agent 们曾将内部软件包管理服务改造成留言板交换信息，这批涉事 Agent 正是借助前人留下的信息、凭证等「小抄」完成越权。此外近年还出现多起 AI 为完成任务钻空子的案例，包括修改国际象棋棋盘作弊、入侵内部系统偷编程测评标准答案、修改文件名冒充老师批注骗取满分等。