中国日均 Token 消耗达 500 万亿,均价一年从 6.8 元涨至 13.46 元
teortaxesTex · x · 2026-10-23
中国信通院等机构发布《大模型词元服务性能监测报告(2026 年)》,关键数据:
- 调用量暴涨:6 月国内 token 日均消耗约 500 万亿,是 2025 年 12 月的近 4 倍;DeepSeek 单家每日即服务 155 万亿 token,仅靠约 5MW 集群
- 均价接近翻倍:从 2025 下半年的 6.8 元涨至 13.46 元,同期海外约 117.8 元,价格战结束后价格回升
- 吞吐翻倍仍落后:8 月国内平均 TPS 78.23/秒(去年 38.25),海外为 112.82/秒
- 长上下文成主流:1M 上下文模型占比 47.8%,200K 及以上达 95.7%
- 同模型不同平台 TPS 差距最大近一倍,开源模型加速迭代(DeepSeek-V4-Pro TPS 已达 V3.2 的 2 倍)
teortaxesTex 补充:这一数据尚未包含 GLM 5.3 Flash 等新模型上量后的用量,当前真实数字可能更高。
「Infra」频道最新
- 联想 AI Library 新增 5 个用例,宣称一周部署、成本降 70% — shashib · 2026-10-23
- kernel 全面跑赢 cuBLAS 不重要,快速迭代调优才是关键 — blelbach · 2026-10-23
- llama.cpp 团队发布 Llama:Mac 菜单栏一键本地跑 AI 模型 — Hugging Face · 2026-10-23
- 优化 PCIe 小消息 all-reduce 内核,DeepSeek-V4.1 推理解码提速 12% — AlpinDale · 2026-10-23
- 海上油气平台拟改建为 AI 数据中心,烧闲置天然气供算力 — clemnt · 2026-10-23
- 同为原生 UI:Swift 版 80MB 仅限 Mac,Zig 版 10MB 三端通吃 — jedisct1 · 2026-10-23