Claude 自研推理引擎将首 token 延迟从 12 秒缩短至半秒
19 分钟前
卡内基梅隆大学等机构研究者推出 Singularity-Bench 基准测试,设置六道 AI 研发相关考题,考察智能体自主构建 AI 研发能力的水平。测试中 Claude Opus 5.5 搭配 Claude Code 表现突出,其自研的推理引擎在相同硬件条件下,将 P90 首 token 延迟从成熟引擎 SGLang 的约 12 秒压缩至 0.48 秒,还通过优化调度等方式提升了处理效率与显卡产出。最终该组合在六项任务中取得五胜一平的成绩,是唯一总分超过人类基线的参赛组合。不过当前测试仍由人类划定任务范围,AI 递归自我改进的真正实现还需后续探索。
体验专业版特色功能,拓展更丰富、更全面的相关内容。