Anthropic 研发 FlashProve 为 AI 输出添加数字指纹防模型伪装

Anthropic 正在开发开源验证系统 FlashProve，通过密码学为 AI 输出出具数学保证，证明确实出自指定模型，防范不同模型间的伪装行为。该系统可堵住 AI 公司用廉价模型替换高价模型的成本作弊漏洞，也能避免人为抬高模型跑分的造假行为，还可核验各类涉及模型使用的第三方宣传。其关键设计是 AI 实验室只需为每个模型提供不会泄露核心权重的公开指纹，用户即可在本地完成验证，目前相关技术规范与可运行代码已开源，相关研究仍在推进中，暂未计划自行部署。