商汤把国产算力做成可盈利工厂
新智元 · wechat · 2026-07-19
这篇长文讲的是商汤在 WAIC 上发布的 **Agentic 时代 AI 基础设施**方案，核心关键词是 **异构混合推理** 和 **Token 工厂**。 文章先解释大模型推理可拆成 **Prefill** 和 **Decode** 两段：前者偏计算吞吐，后者偏显存带宽。商汤的思路是让不同类型的芯片分工：通用国产卡负责 Prefill，高端卡负责 Decode，用系统级调度、编译器、缓存和网络优化把整套链路跑顺。文中还提到，这套方案已经在真实客户场景中落地，适配了 GLM5.2、DeepSeekV4、KimiK2.7、MiniMaxM3、SenseNovaV6.7 等模型。 更关键的是商业化结果：文章称国产芯片参与的混推集群已经 **实现可盈利**，定义是收入覆盖折旧、摊销、机柜租赁、电费和人员服务费后仍为正；单卡 MFU 平均提升约一倍，最高提升 **152%**，同成本 Token 产出扩大 **2.5 倍**。文中还提到日均 Token 量从年初 **4000 亿** 增至预计 **2.42 万亿**，年底目标 **10 万亿**，并延伸到储能、电网需求响应、全国算力网、香港/沙特出海和太空算力等布局。
「Infra」频道最新
- OxDeAI 用签名授权把 agent 策略检查前移到执行前 — docybo · 2026-07-21
- LLM 单次成本翻三倍，原因不是流量而是重试和 prompt 膨胀 — Lance_Saul_85 · 2026-07-21
- NVIDIA CMP 170HX 卖家在 jailbreak 传闻后把价格翻倍 — Hannibalj2ca · 2026-07-21
- AI 性能瓶颈正转向材料科学，而不只是算力 — nordicinst · 2026-07-21
- GLM-5.2 推理争论：750B 参数怎么跑过 1 token/s — francoisfleuret · 2026-07-21
- 为什么持续写入会让向量数据库拖慢 AI agent — PrajwalTomar_ · 2026-07-21