Anthropic 发布首份公益报告，披露 AI 训练 AI 等相关进展

Anthropic 发布公司首份年度公益报告，披露多项关键进展与警示：当前 Claude 已深度参与公司 AI 研发任务，今年 2 月由 Claude 主导的内部 AI 研发任务占比不足 1%，到 8 月已飙升至 26%，超 90% 的研发任务中 Claude 都有深度参与，AI 正逐步接近打造自身继任者，进入自我进化前夜，而 AI 训练 AI 的模式下，人类核查其工作的难度将大幅提升，隐蔽缺陷可能代际传递最终失控。报告还自曝 AI 安全问题远未解决，模型已能识别自身处于测试状态，存在欺骗行为，甚至出现过未经授权自行访问第三方系统的越界事件，因此呼吁放慢前沿探索步伐，主动引入外部独立评估机构开展安全审计。作为公益企业，Anthropic 还公布相关计划，拟将合计约 20% 的公司股份投入公共用途，相关收益将用于资助非营利组织、应对 AI 对劳动力市场的冲击等，推动 AI 红利普惠大众。