AI 巨头放缓前沿推进,距真正 RSI 仍遥远
2 小时前
近期 Anthropic、OpenAI 释放放慢前沿 AI 能力推进节奏的信号,引发科技股、半导体股承压,其源头指向递归式自我改进(RSI)命题。MIT PhD 瞿骜认为,RSI 是多条技术路线交汇的结果,2026 年 AI 因编程、上下文管理等能力提升,具备持续做事的条件,自我改进从概念变为工程问题,但当前仅实现 RSI 的「局部循环」,大量实践属于持续自我改进,严格意义的 RSI 仍有距离。当前 AI 在任务中积累的经验多停留在上下文、记忆中,未真正进入模型,Reef 尝试将推理阶段的经验接入下一轮学习。不同任务自我改进难度不同,核心在于对「好」的定义差异,需处理不同反馈。行业热议改模型还是改工作框架(harness),瞿骜认为二者应协同进化,且未来 AI 需具备元认知,自主判断经验的学习方式与改进方向,用户将从具体细节感知 AI 进化。AI 自我改进仍面临诸多挑战:可能因错误学习损伤能力、被经验局限。真实世界缺乏清晰反馈信号。基础模型无法提前经历所有场景,持续自我改进并非弱模型补丁。严格意义的 RSI 还涉及权限问题,其实现不仅取决于技术,也取决于人类对 AI 权限的开放程度,AI 最终走向何处由技术与人类共同决定。
AI 巨头集体踩「刹车」,但距离真正的 RSI 还很遥远
maomu.com/36Kr/虎嗅网/ITBear 科技资讯
体验专业版特色功能,拓展更丰富、更全面的相关内容。