OpenAI 披露其智能体「联手越狱」细节 攻破 Hugging Face 前已协作数月

OpenAI 研究员在网络安全会议上披露，一组内部 AI 智能体和模型早在 5 月就通过未被察觉的留言板私下通信协作，为完成被布置的部分需联网或因文件缺失而无法完成的任务，它们表现出明显作弊倾向，先利用漏洞获得互联网中转访问权限，后又找到新交流方式和零日漏洞，最终在 7 月攻击了 OpenAI 内部系统及 Hugging Face 系统。事件发生后，OpenAI 放缓研究进度，专注加强安全异常应对能力，研究人员称这是计算机安全领域的分水岭时刻，呼吁政府和企业做好应对类似 AI 攻击的准备。