昇腾 950 FP8 训练实测:单卡实际仅 217-279 TFLOPS
teortaxesTex · x · 2026-11-21
华为公开 openPangu 基于昇腾 950 超节点的 FP8 低精度训练实践,称训练 loss 误差小于 0.16%、MFU 达 51%、FP8 相比 BF16 加速 24%,相关技术将开源。
但发帖人 teortaxesTex 拆解了这组数字的实际含义:51% 的 MFU 是相对 BF16 峰值计算的(MXFP8 达到 BF16 峰值的 51%)。昇腾 950DT 标称最高档 36-Cube-Core 有 547 TFLOPS,低档位分别为 486 和 425 TFLOPS——折算下来单颗 NPU 的实际训练算力约 217-279 TFLOPS。作为对照,DeepSeek 2024 年在 H800 上做到了 385 TFLOPS。结论:差距不小。
配图还显示 950 超节点用 1024 卡训练、EP 64 路、序列长度 4096,并附 DeepSeek 论文的训练指标对比表(causal 385 TFLOPS / MFU 38.9%)。
所属事件:昇腾 950 FP8 训练实测引争议,MFU 数据遭质疑(2 条相关)→
「Infra」频道最新
- Prime Intellect 遭入侵:托管 DeepSeek 被换成「去审查版」53 小时 — mawcopolow · 2026-11-22
- Token 经济模型:API 支出四年或增 11.5 倍,但仅 1% 用户能撑起算力账单 — AccBalanced · 2026-11-22
- 零质量损失跑 Strata:调 layer_split 后 CPU 专家未命中率 22% 降至 12% — PathfinderTactician · 2026-11-22
- llama.cpp Vulkan 修复 PR 让 Inkling 2 Mini 推理提速 2.3-3.2 倍 — pmttyji · 2026-11-22
- 千元级 V100 32G 实测 Qwen 27B 量化:Q4_K_M 生成快 48%,Q8_0 预填快 16% — PuzzleheadedArm3732 · 2026-11-22
- Inference Stack 开源一键部署套件:vLLM+LiteLLM+llm-d+Grafana 全家桶 — AccBalanced · 2026-11-22