Anthropic 向外开放近似员工权限 评估大模型安全风险

Anthropic 向非营利机构 METR 的 6 名工作人员开放近似内部员工级别的大模型相关访问权限，允许其进驻办公场地、访问硬件与内部系统，用于评估大模型风险，相关评估报告由评估人员对外发布，Anthropic 仅可要求删节客户数据、涉密内容及模型架构细节等特定类别信息，无权否决发布。该合作是 Anthropic 落实此前提出的派驻外部审计人员强化 AI 安全防护承诺的第一步，METR 资金来源独立，不向 Anthropic 收取费用。当前外界对强能力 AI 系统的潜在风险担忧加剧，引入第三方评估是头部 AI 实验室的核心应对举措之一，Anthropic 的相关方案曾获 OpenAI 的山姆・奥尔特曼与 SpaceX 的埃隆・马斯克共同认可，但 OpenAI 尚未出台相关落地计划。该机制也引发了关于利益冲突的批评，有声音呼吁出台更严格的政府监管，Anthropic 则辩称完全公开信息易被恶意利用，该模式类似银行监管部门派驻人员入驻大型银行审查风险的机制。同时 Anthropic 正推进年内 IPO 计划，估值预计超 2 万亿美元，其在投资者推介材料中重点介绍了自身安全管控措施。除 METR 外，Anthropic 还与埃森哲合作投入至少 10 亿美元搭建安全防护体系，联合第三方机构 SecureBio 审查化学生物武器相关风险，其呼吁所有前沿 AI 企业都采取派驻外部评估人员的做法。