Anthropic 称已非常接近具备递归自我改进能力的 RSI

Anthropic 提交修订后的 S-1A 文件，除了引发关注的营收与支出双双猛涨的财务数据外，文件细则提及公司已非常接近做出具备递归自我改进能力的模型。递归自我改进指 AI 在训练自身上的能力达到一定程度后带动能力急剧跃升，各界对其影响看法不一，Anthropic 将相关风险纳入负责任扩展政策监控。此前不少人认为递归自我改进是热词或难以实现，此次 Anthropic 新增说明称已用 AI 开发出当时未察觉能力跃升的新模型，按内部估算很快可能满足相关政策中「由 AI 带来的进展急剧加速」的门槛，且存在加速发生后才被发现的可能。目前尚无模型越过相关门槛，Anthropic 承诺可预见的未来将人留在研发流程中，不允许 Claude 在缺乏有效人类监督的情况下完全自主设计构建下一代前沿模型，正考虑修订相关政策确保前沿模型开发始终由人掌控。