备忘录|当词元从「试用额度」变成「原材料采购」
收件人:企业主 / 技术负责人 / 跨境业务负责人 拟稿:古令乐编辑部 议题:2026 年词元服务的成本结构与选型逻辑重估
先给三个判断,依据和动作在后面展开:
其一,用量与单价正在同向上行,「等价格战打完再采购」这条策略在本轮周期里已经失去了前提。 其二,决定账单的第一变量,正从「选哪个模型」转向「这个模型跑在哪个平台上、以什么方式被调用」。 其三,管理层此刻最该做的不是换供应商,而是先把单位业务成本算出来——算不出来,换谁都是盲选。
以下是拆解。
一、三个同时出现的信号,指向同一个结论
第一个信号是量。中国信通院披露,2026 年 6 月国内词元日均消耗量约 500 万亿,是 2025 年 12 月的近 4 倍【1】。
第二个信号是价。同一份《大模型词元服务性能监测报告(2026 年)》给出的口径是:国内 2025 年下半年归一化均价 6.8 元,2026 年以来为 13.46 元,涨幅接近一倍;作为对照,国外 2026 年以来发布的典型模型平均归一价格约 117.8 元【2】。
第三个信号是上下文长度。被监测模型中,上下文达到 1M 的占比 47.8%,200K 及以上合计 95.7%,相比 2025 年底提高超过 76 个百分点【3】。
把三条摆在一起,因果链就浮出来了:模型侧在持续堆参数、堆上下文,单次调用的资源消耗变重;需求侧半年内放大了近 4 倍;两头夹击之下,供给端的定价权自然回摆。价格战的阶段性停火,不是厂商忽然变得不慷慨,而是成本结构不允许它继续慷慨。这条判断对采购节奏的影响,比任何一个单点数字都大——它意味着把预算建立在「明年会更便宜」的假设上,风险已经不低了。
二、被普遍低估的变量在平台层,不在模型层
报告里最值得技术负责人逐字读的一段,是横向对比的结论:部分第三方平台提供的模型服务,性能明显优于原厂官方平台;同一模型在不同平台之间的 TPS 差距,最大可接近一倍。报告把原因归结为各平台在推理加速、优化策略与成本控制上的做法不同【4】。同份报告还提到,8 月 DeepSeek-V4-Pro 的 TPS 已达到 DeepSeek-V3.2 的 2 倍【4】。
这两句话拼起来,是一个容易被跳过的采购常识:你的性能与成本,是「模型 × 平台」的乘积,而多数团队的选型讨论只覆盖了前一个因子。同样一份预算,跑在 A 平台和 B 平台上,产出效率可能差出一倍,而这个差异不会出现在任何模型发布会的 PPT 上。
对国内企业的现实含义是:不要急着签长约锁定某一家模型,而要先把「可替换」这件事做进架构里。模型是会换代的,平台是会调优的,唯一不该被绑死的是你的业务代码。
三、TPS 与 TTFT:两个指标,两套责任
先把数据摆清楚。吞吐侧,8 月国内各模型平均 TPS 为 78.23 个/秒,相比 2025 年均值 38.25 个/秒实现翻倍;但国外典型模型 8 月均值为 112.82 个/秒,整体仍高于国内【5】。时延侧,国内 8 月平均首词时延(TTFT)为 1.26 秒,高于 2025 年均值 0.78 秒;国外典型模型 8 月为 2.08 秒,相比 4 月的 1.04 秒同样明显抬升。报告特别说明,TTFT 上升并非单纯的性能退化,而是与模型参数量增加、上下文长度增加、调用量增加同步发生【5】。
这个解释很重要,它把一件事说透了:首词时延变长,很大程度上是「能力变强」的伴生成本。所以管理层不必看到时延上升就去追责供应商,但必须在合同与验收标准里把它锁死。
分工建议这样切:TPS 由技术团队背,它决定批量任务的总时长与单位成本;TTFT 的 P95 尾延迟由产品团队背,它决定用户在对话框里等待的那一两秒感受。客服助手、销售 Copilot、实时 Agent 这类交互型产品,验收条件里应当写清首词时延与尾延迟;离线批量生成、数据清洗、多语翻译这类任务,则把考核重心放在吞吐与每千次有效请求成本上。用一张综合榜单做选型,等于用平均体温给病人下诊断。
四、本季度可以落地的四件事
第一,把成本埋点下沉到功能模块。 按业务线、按功能(客服问答、内容生成、文档解析、Agent 工具调用)分别统计词元消耗,同时记录输入与输出的词元比例。RAG 类应用输入远大于输出,Agent 类应用则是多轮调用叠加输出,两类账单的形态完全不同,用公司级平均值管理必然失真。
第二,建一层可替换的模型路由。 把供应商抽象成接口,按任务难度分流:高难推理走强模型,格式转换、分类打标走轻量模型。这层路由同时承担降级职能,但必须配质量抽检,否则会退化成无人监控的盲盒。
第三,做上下文治理。 长文档先分段摘要再进主流程,多轮会话做滚动压缩而非全量回传。这两件事不提升模型能力,却在多数场景下比「换一家更便宜的供应商」更省钱——毕竟输入词元是实打实计费的。
第四,用自有流量做两周对照测试。 不看公开题库,只看三个指标:调用成功率、P95 首词时延、每千次有效请求成本。测试结论大概率与榜单排名不一致,但那才是你的账单口径。
五、四件不建议做的事
不要把归一化价格当成你的结算单价。 报告的价格是用于横向比较的统计口径,与实际账单之间隔着计费规则、缓存命中、批处理折扣等一层层差异【6】。
不要用行业增速给内部立项背书。 半年近 4 倍的行业用量里,混着大量试跑、评测与低效调用,行业增速不等于你的业务增速。
不要为百万级上下文付全价。 窗口越长,越容易诱发「把整本手册塞进 prompt」的懒办法,成本会以最隐蔽的方式膨胀。
不要把跨境业务默认绑定海外模型。 国内外价差仍然显著,区域部署、数据合规与成本应当放在同一张表里权衡,而不是靠惯性决策【2】。
六、收尾一句话
词元正在完成一次身份转换:从可以随便试的额度,变成需要精算的原材料。原材料价格上行的周期里,赢家从来不是采购价最低的那家,而是最先算清「每个业务动作消耗多少材料」的那家。这个动作,本季度就可以开始。
参考文献
【1】中国信通院:6 月国内词元日均消耗量约 500 万亿,是 2025 年 12 月的近 4 倍 — https://www.ithome.com/1/017/518.htm 【2】同上报道所引《大模型词元服务性能监测报告(2026 年)》:国内外归一化价格对比数据 — https://www.ithome.com/1/017/518.htm 【3】同上报道所引报告核心观点:被监测模型的上下文长度分布 — https://www.ithome.com/1/017/518.htm 【4】同上报道所引报告核心观点:开源模型跨平台性能差异与版本迭代 — https://www.ithome.com/1/017/518.htm 【5】同上报道所引报告核心观点:国内外模型 TPS 与 TTFT 均值 — https://www.ithome.com/1/017/518.htm 【6】编辑注:归一化价格为报告用于横向对比的统计口径,基于该来源的二次解读,不等同于企业实际结算单价 — https://www.ithome.com/1/017/518.htm



