中国移动实测:昇腾 950DT 推理性能达 H200 约 86%
basedjensen · x · 2026-11-17
引述 tphuang 的爆料:中国移动实测昇腾 950DT 与 910 系列、H200 在 GLM 推理上的吞吐对比。结果显示 950DT 吞吐是 910B 的 11 倍、910C 的 3 倍,比 H200 低约 14%——尽管其 TFLOPS 更低、成本约为 910C 的 1.3 倍,实际推理表现却远超前代。
关键结论:64 卡机柜 + 高速互联 + 更大更高带宽 HBM 的系统级设计,比单颗算力参数更能决定推理性能;计入租赁成本后,950DT 的经济性反而优于 H200。这解释了为什么中国 AI 实验室更想要 B300 而非 H200。转推者(basedjensen)评论称海上数据中心若转向昇腾,出口管制派将不乐意。
「Infra」频道最新
- NVIDIA 开源 cuPotential:分子动力学最高提速约 4 倍 — AllThingsApx · 2026-11-17
- PiPNN 取消图索引构建搜索步,十亿向量建图从数天缩至约千秒 — qdrant_engine · 2026-11-17
- tinygrad.js:真实 tinygrad 跑进浏览器,WebGPU 上现场训练神经网络 — CatAstro_Piyush · 2026-11-17
- 数据中心反对声浪高涨,作者引历史类比:Nuisance 无权利 — justin_hart · 2026-11-17
- 识别约束解码端点的土办法:函数调用吞吐量骤降 17%-90% — remilouf · 2026-11-17
- Terray 携 NVIDIA 升级药物设计模型,推理提速 7 倍 — AllThingsApx · 2026-11-17