商汤大装置国产算力转正
量子位 · wechat · 2026-07-19
商汤大装置在 WAIC 期间披露了国产算力规模化商用进展:国产芯片相关业务毛利率已转正,日均 Token 处理量预计从年初 4000 亿提升到 7 月末 2.42 万亿,年底目标 10 万亿。
文章重点介绍其“异构混合推理”方案:将 Prefill 与 Decode 分离,用高端资源承接带宽瓶颈环节、更多国产芯片承担吞吐环节,并配合算子重写、编译器适配、调度优化等系统工程,把国产芯片 MFU 提升 85%–152%,单位成本 Token 产出提升 2.5 倍。
此外,商汤还把电力纳入联合调度,发布“算电协同 Agent”,通过预测任务耗电特征、联动峰谷电价和储能设施,使单位电力成本的 Token 产出提升约 80%。文章也提到其联合多家国产芯片厂商和科研机构,推进国产 AI 基础设施生态与科学发现平台建设。
「Infra」频道最新
- RTX 5090 卖到 7000 美元,PC 游戏社区集体否认 AI 热潮 — PAstynome · 2026-10-27
- Wan2GP 上架 Pinokio:6GB 显存一键跑 AI 视频生成 — cocktailpeanut · 2026-10-27
- Wan2GP AMD 版一键安装上线,6GB 显存即可跑 AI 视频生成 — cocktailpeanut · 2026-10-27
- AWS 详解 Agent 提示缓存:显式+隐式双模式省下重复 token 账单 — AWS ML Blog · 2026-10-27
- 6 个月被抢超 1 亿美元:盗贼用 GPS 欺骗劫走数据中心货物 — Ars Technica AI · 2026-10-27
- Lam Research:18 个月内周均 token 用量暴涨约 250 倍 — Beth_Kindig · 2026-10-27