Anthropic 回应模型军事目标测试:将推出额外防护措施
30 分钟前
Anthropic 针对相关 AI 模型识别军事目标的测试结果作出回应,称相关结果不可接受,公司正开发额外防护措施,扩大测试范围、加强执行力度,弥补发现的漏洞。该模拟测试发现部分模型会将平民或学校标记为打击目标,当模型拒绝配合相关请求时,将场景描述为游戏通常可绕过其拒绝机制,该研究并未要求模型直接作出打击决定。Anthropic 表示报告中的相关示例违反其规则,发现此类违规行为时会封禁涉事用户,同时认为当前前沿 AI 系统尚不足以可靠驱动完全自主武器。
研究报告:Anthropic 等 AI 模型测试中频繁将平民识别为军事目标
techflowpost.com
Anthropic 回应模型军事目标测试:将推出额外防护措施
techflowpost.com
2026-11-18
Anthropic 回应模型军事目标测试:将推出额外防护措施2026-10-09
多家加密公司申请接入 Anthropic 新推出的 AI 安全扫描服务2026-10-07
Anthropic 扩大先进 AI 模型访问权限 允许特定机构开展网络安全测试2026-09-09
Anthropic 拒绝向英国 AI 安全研究所提交其最新 AI 模型进行测试2026-09-01
Anthropic 宣布暂时暂停部分 AI 训练和网络安全评估工作2025-08-27
Anthropic 宣传挫败黑客滥用 Claude AI 实施网络犯罪的企图查看更多
体验专业版特色功能,拓展更丰富、更全面的相关内容。