Readhub
OpenAI 研发出新方案，可将推理成本减半
6 月 30 日
据知情人士透露，OpenAI 工程师本月早些时候向部分同事表示，通过几项全新优化技术，已找到将模型推理成本削减一半以上的方案，应用于无免费 / 付费账号访客使用 ChatGPT 的场景后，所需英伟达 GPU 数量曾压至仅数百块。目前外界不清楚具体技术手段，业内常用优化方案包括量化压缩、键值缓存、批量处理用户查询、将部分请求分流至轻量化模型或模型分片应答。
展开全部报道
话题追踪2026-09-23
OpenAI 拟在研发早期引入第三方评估 AI 模型安全风险2026-09-17
OpenAI 前高管团队基于 Kimi 训出万亿参数模型，部分测试超 GPT-62026-09-03
OpenAI 预告即将发布 Astra 模型，名称可能为 GPT-6-Astra2026-07-31
OpenAI 表示其模型目前已覆盖超过 10 亿活跃用户2026-06-30
OpenAI 研发出新方案，可将推理成本减半2026-03-25
OpenAI 完成新款 AI 模型的初步开发2025-11-24
OpenAI 加强应对 Google AI 竞争查看更多
专业版功能体验专业版特色功能，拓展更丰富、更全面的相关内容。