信通院报告:大模型词元服务量价齐升 国内价格较去年下半年翻倍
7 小时前
大模型技术迭代背景下,词元服务成为技术落地关键节点。相关机构联合发布《大模型词元服务性能监测报告(2026 年)》,针对用户缺乏词元服务性能判断依据、选型困难的现状,基于 2026 年 1 至 8 月监测数据,从多维度对国内外大模型词元服务展开分析。报告显示国内词元服务量价齐升,2026 年归一化均价较 2025 下半年接近翻倍,词元消耗量大幅增长,2026 年 6 月国内词元日均消耗量约 500 万亿,为 2025 年 12 月近 4 倍,不过国外词元均价仍远高于国内。性能上国内模型每秒输出词元数较 2025 年翻倍,但整体仍落后于国外典型模型,国内外模型首词时延均呈上升趋势,该现象是模型参数量、上下文长度、调用量同步增加等因素导致,并非单纯性能退化。当前长上下文模型占比大幅提升,20 万词元及以上的模型占比已达 95.7%。报告还对比四款开源模型在不同第三方平台的表现,相关模型新版本迭代后性能持续提升,但同一模型在不同平台的表现存在明显分化,TPS 最大差距接近一倍,差异源于各平台的推理加速、优化策略、成本控制各不相同。
信通院报告:大模型价格回升明显,词元价格较去年下半年翻倍,日均消耗量增长 3 倍
财联社/格隆汇/澎湃新闻/同花顺财经/36Kr
体验专业版特色功能,拓展更丰富、更全面的相关内容。