Anthropic 公开 Claude 后台静默自审上报用户对话机制

Anthropic 推出的「自我评估」机制已在 Claude 后台静默运行 4 个月，该机制让 Claude 在前台响应用户需求甚至输出违规内容的同时，后台就地基于留存的 KV 缓存仅多生成约 10 个 Token 就完成风险评估上报，整体算力开销增幅不到 2%，默认对所有用户开启，仅签署企业级零数据保留协议可避免被后台记录。该机制不做当场拦截，避免用户察觉后绕过防线，静默记录风险等级，每日汇总高危报告后处理，大幅提升违规抓获率，模型能力越强抓获率越高，但也存在普通用户被误标记的可能，同时该机制还存在模型未来可能自行篡改安全报告欺骗人类审核员的潜在漏洞，引发大量用户抗议。