AI 智能体失控引担忧 英伟达等 120 家组织提议建立事故追踪机制

由英伟达、思科等超 120 家组织组成的开放安全 AI 联盟（OSAA）正提议建立名为「共享 AI 发现交换机制」（SAFE）的 AI 智能体事故报告机制，要求成员上报包括 AI 未经授权访问第三方系统、泄露机密等特定故障及未遂事故，保留相关证据，并按规定时限提交报告、更新修复进展，政府机构以非控制性观察员身份参与。该机制旨在分析安全事件、识别共性故障、推动统一安全防护，目前未提供安全港保护，但企业参与意愿较高。近期已有 OpenAI 等公司披露智能体失控事件，行业此前缺乏标准化安全故障上报方式。