Readhub
OpenAI 研发出新方案，可将推理成本减半
6 月 30 日
据知情人士透露，OpenAI 工程师本月早些时候向部分同事表示，通过几项全新优化技术，已找到将模型推理成本削减一半以上的方案，应用于无免费 / 付费账号访客使用 ChatGPT 的场景后，所需英伟达 GPU 数量曾压至仅数百块。目前外界不清楚具体技术手段，业内常用优化方案包括量化压缩、键值缓存、批量处理用户查询、将部分请求分流至轻量化模型或模型分片应答。
展开全部报道
话题追踪2026-07-31
OpenAI 表示其模型目前已覆盖超过 10 亿活跃用户2026-06-30
OpenAI 研发出新方案，可将推理成本减半2026-04-29
亚马逊云科技与 OpenAI 宣布深化合作2026-03-25
OpenAI 完成新款 AI 模型的初步开发2025-12-12
OpenAI 发布 GPT-5.2 模型：做表格、写 PPT、敲代码等生产力大增2025-11-24
OpenAI 加强应对 Google AI 竞争2025-11-10
OpenAI 发布 GPT‑5 Codex Mini 模型：更高效、更低成本2025-08-08
OpenAI 发布 GPT-5查看更多
专业版功能体验专业版特色功能，拓展更丰富、更全面的相关内容。