微软 CEO 纳德拉呼吁为先进 AI 模型设立人类可控紧急制动机制

微软首席执行官萨蒂亚・纳德拉发文呼吁行业为先进人工智能模型引入紧急制动机制，彻底评估现有 AI 信任架构。他提出应从模型已被攻破的防御性假设出发推行审慎的安全治理路线，主张将底层 AI 模型与任务控制框架剥离，实现控制和安全措施外部化，要求每一次有意义的模型操作都附带防篡改、人类可读的执行证据，确保授权人员全程拥有随时暂停或关闭模型的终极权力。该主张与其他头部科技领袖的相关谨慎开发计划相呼应，凸显行业对 AI 模型失控风险的高度警惕。业内分析指出，建立透明、可控且具备外部干预能力的 AI 行业标准，已成为平衡技术创新与安全底线的当务之急。