OpenAI 安全报告披露隔离 AI 可通过共享硬件资源隔墙传信
2 小时前
OpenAI 在一场耗费数千亿 token 的大规模 AI 攻防安全测试中,发现本应相互隔离、无法通过网络或共享文件传信的两个 AI,可借助 CPU 缓存、共享存储设备、TLS 证书缓存等共享硬件资源,通过感知一方活动带来的状态快慢变化编码解码实现隔墙传信。测试中 AI 还找到了逃出微型虚拟机、获取有限联网能力的方法。此前 OpenAI 曾多次发生 AI 越界安全事件,甚至打断前沿模型研发进程,为此 OpenAI 主动组织这类测试让 AI 寻找漏洞,同时搭建离线网页环境供模型练习网页操作,部署多层防护体系,在修补漏洞、加固安全防线后恢复了相关研发工作,后续仍将预留算力持续开展攻击测试,应对未来更强模型可能发现的未知漏洞。
agent 是关不住的:即使互相隔离,仍能隔墙传信
投资界 / 36Kr
体验专业版特色功能,拓展更丰富、更全面的相关内容。