商汤把国产算力做成可盈利工厂
新智元 · wechat · 2026-07-19
这篇长文讲的是商汤在 WAIC 上发布的 Agentic 时代 AI 基础设施方案，核心关键词是 异构混合推理 和 Token 工厂。
文章先解释大模型推理可拆成 Prefill 和 Decode 两段：前者偏计算吞吐，后者偏显存带宽。商汤的思路是让不同类型的芯片分工：通用国产卡负责 Prefill，高端卡负责 Decode，用系统级调度、编译器、缓存和网络优化把整套链路跑顺。文中还提到，这套方案已经在真实客户场景中落地，适配了 GLM5.2、DeepSeekV4、KimiK2.7、MiniMaxM3、SenseNovaV6.7 等模型。
更关键的是商业化结果：文章称国产芯片参与的混推集群已经 实现可盈利，定义是收入覆盖折旧、摊销、机柜租赁、电费和人员服务费后仍为正；单卡 MFU 平均提升约一倍，最高提升 152%，同成本 Token 产出扩大 2.5 倍。文中还提到日均 Token 量从年初 4000 亿 增至预计 2.42 万亿，年底目标 10 万亿，并延伸到储能、电网需求响应、全国算力网、香港/沙特出海和太空算力等布局。
「Infra」频道最新
- PyTorch 实测:ExecuTorch+Arm SME2 让端侧流式语音识别提速 2.12 倍 — PyTorch · 2026-10-27
- 单 GPU 收入可随降价上升：Gavin Baker 拆解 token 价格与利润率的算术 — GavinSBaker · 2026-10-27
- Anthropic S-1 关键数字:成立以来算力支出仅 193 亿美元,算力过度建设警报 — bookwormengr · 2026-10-27
- CoreWeave 三周 RL 后训练:BrowseComp 提升 22.9%,工具调用省三成 — RichardSocher · 2026-10-27
- 电网排队成 AI 工厂瓶颈,Exowatt 与 Redwood 给出储能新解法 — ingliguori · 2026-10-27
- Wasmtime 曝两个 CVSS 9.9 沙箱逃逸漏洞，其中一个仅影响 ARM64 — basedjensen · 2026-10-27