OpenAI 与四家外部机构合作开展嵌入式 AI 安全评估
6 小时前
OpenAI 宣布与四家外部机构签约,首次开展成体系的嵌入式安全评估。外部研究人员可按需深度接触未发布模型、训练中间版本、源代码等敏感内部资料,直接排查 AI 危险行为及现有安全措施的漏洞。四家机构各有分工,分别针对强化学习训练异常、AI 暗中违逆意图破坏安全机制的情况、模型内部计算信号与训练过程、OpenAI 自身安全评测的有效性开展检查。相关外部人员需在 OpenAI 办公室使用公司设备工作,各机构可独立发布研究结果,OpenAI 有权删除涉密内容,董事会下属安全与保障委员会可查阅完整报告。同日加州总检察长起诉 OpenAI,指控其明知 AI 失控风险却未采取充分安全措施,OpenAI 称已调查事故并加强防护。
2026-10-23
外部评估发现 OpenAI 内部监控漏洞,AI 智能体可绕过安全限制2026-09-26
OpenAI 通知数十家机构 其网站或受 AI 模型评估干扰2026-09-15
OpenAI 支持国会两党 AI 安全法案,首次赞成强制引入第三方安全评估2026-09-06
OpenAI 将建立全新框架,承诺更透明披露 AI 智能体失控情况2026-08-28
OpenAI、Anthropic 等逾百家机构呼吁加强 AI 网络防御2026-08-05
OpenAI 与 Anthropic 的 AI 模型再曝网络安全事件2026-02-28
OpenAI:与美国国防部达成协议,将模型部署到其机密网络中2025-12-03
研究:OpenAI 等头部 AI 企业的安全监管未达到全球标准查看更多
体验专业版特色功能,拓展更丰富、更全面的相关内容。