Ascend 950DT 跑 DeepSeek-V4.1 吞吐仅 GB200 的 1/5-1/7，但优化空间仍大
teortaxesTex · x · 2026-10-21
teortaxesTex 对华为 Ascend 950DT 与 NVIDIA GB200 部署 DeepSeek-V4.1-Flash 的解码吞吐做了详细对比分析：
- 按 9 月 30 日 CANN 基准，950DT 在 100 tps/用户、131K 上下文下单卡吞吐约 5K tokens/s，而 GB200（DeepInfer，EP64-128/DP64-128）可达 25.5K，差距 5 倍；在 230 tps 交互档为 20K vs 2.7K，差距 7.4 倍。
- 但作者指出关键变量：DeepSeek 三周前在 DeepEP-Ascend 文档中明确表示 EP64-128 配置尚未优化（combine 有额外本地规约开销及与 URMA 的 HBM 争用），正与华为合作改进。
- DeepSeek 当前推荐「普通 8 卡机做 prefill、64-128 卡超节点做 decode」，而 NVIDIA 阵营并不存在 64-128 卡的「超节点」对应物；若 128 芯超节点 + 高 EP 的 DeepInfer 优化到位，100 tps 档有望提升到约 8-10K。
- 配图还给出经济账：按 $139K/Blackwell 与 $37K/950DT 的单价，GB200 需达到 3.76 倍单卡吞吐才在购置成本上打平；现有 CANN 下 GB200 每美元吞吐高约 33%，若 950DT 优化到 8K-10K 则 Ascend 反超 18%-47%（未计入网络/散热/电力等成本）。
结论：表面上 5-7 倍差距被高估，软件栈优化后单卡经济性可能接近甚至反超。
「Infra」频道最新
- 诺基亚贝尔实验室激光器线宽改善 50~60dB,作者用 Claude 做成交互图表 — jwt0625 · 2026-10-21
- 按 DeepSeek 推理定价,50GW 算力需 10 万亿美元年营收消化 — teortaxesTex · 2026-10-21
- AI 时代最大好处：基础设施工程又变有趣了 — sloppenheimer · 2026-10-21
- 链上推理悄然升温，机密推理成隐私 AI 新赛道 — 0xJeff · 2026-10-21
- llama.cpp 慢 LoRA 有救了：新 kernel 把 300 t/s 拉回 1400 — woct0rdho · 2026-10-21
- 英伟达 129 亿美元收购 Hugging Face，史上最大并购 — FinanceYF5 · 2026-10-21