报告称2026年国内大模型均价翻倍,每秒吞吐量也翻倍

发布时间:2026-10-23 13:55

  中国信息通信研究院人工智能研究所、人工智能大模型及软硬件评测工业和信息化部重点实验室和中国人工智能产业发展联盟,今日联合发布

  报告称,随着大模型技术的迅速迭代,词元服务成为从技术走向应用的关键点,我国日均词元调用量持续攀升,2026 年 6 月,国内词元日均消耗量约 500 万亿,是 2025 年 12 月的近 4 倍。

  产业中越来越多的 MaaS平台厂商通过公有云 API 方式供给大模型词元服务。然而用户对词元服务性能缺乏直观的判断依据,且面临选型困难等各类问题。

  报告基于 2026 年 1-8 月的监测数据,围绕各平台词元服务调用成功率、吞吐速度、首词时延、稳定性、价格、上下文窗口等维度开展分析,对比原厂大模型官方平台,以及 DeepSeek、Qwen、GLM、Kimi 四款开源模型在第三方平台上的性能差异,进一步分析影响词元服务性能的关键因素,总结产业核心观察,明确下一步工作计划,旨在为用户选型提供参考,并为产业界优化服务能力提供方向指引。

  报告提出,8 月份国内各模型平均 TPS达到 78.23,与 2025 年均值 38.25相比实现翻倍。但 8 月份国外典型模型的 TPS 均值为 112.82,与 2025 年 12 月的 51.35相比,提升亦超过一倍,整体优于国内。

  报告提出,今年以来,国内各模型的平均 TTFT呈现持续提升态势,8 月份均值达到 1.26 秒,相较于 2025 年平均值 0.78 秒明显增加。但同时 8 月份国外典型模型 TTFT 平均值达到 2.08 秒,相比 4 月份 1.04 秒亦明显增加。

  值得注意的是,TTFT 上升并非单纯的性能退化,而是伴随着模型参数量增加、上下文长度增加、调用量增加等多种因素同步产生的结果。

  报告提出,经历了过去两年价格战后,2026 年国内外模型服务价格明显上涨。国内 2025 下半年归一化均价为 6.8 元,而今年以来均价为 13.46 元,涨幅接近 1 倍。但国外价格仍高于国内,2026 年以来发布的典型模型平均归一价格约为 117.8 元。

  报告提出,被监测的模型中,上下文长度达到 1M的模型占比 47.8%,200K 及以上的合计达 95.7%,相比 2025 年底的占比提高超过 76 个百分点,而低于 200K 的模型占比持续减少。

  国内大模型上下文长度占比情况5. 开源模型词元服务性能提升显著,同一模型在不同平台性能波动较大

  时延方面,5 月份主要模型完成换代升级后,TTFT 普遍出现阶段性上升,随着推理优化措施落地,时延指标逐步回落至换代前水平。

  同时,4 款模型在不同平台上的 TPS、TTFT、调用成功率表现不一。部分第三方平台性能明显优于官方平台提供的模型服务,同一模型在不同平台间的 TPS 差距最大可接近一倍。各平台对相同模型的推理加速、优化策略、成本控制不同,是造成性能分化的主要原因。

  特别

  顾客理发时突发疾病[*][*],店员“掐人中”施救反被[*]者家属指责并索赔46万余元;法院:“好人条款”撑腰,不让施救者流汗又流泪,不担责

  特朗普被曝给马斯克打电话表示不满,要求他解除对乌克兰“星链”限制;此前特朗普称没有下令“限速”,也不认为马斯克对此负有责任

  校庆我捐了上千万,副校长嫌我没名气安排在末排,还冷笑爱坐不坐,我转身撤资,十分钟后女校长的手机被打得快要炸了

  印度一档时事节目上,主持人 Meher Smaran 当着观众的面发问,中国凭什么不把锂电池技术白白送给印度?

排行

精选