网友核算:昇腾 FP8 训练 51% MFU 存疑,实为 22-25%?
teortaxesTex · x · 2026-11-21
teortaxesTex 对「昇腾 Ascend FP8 训练」报告的 51% MFU 数据提出质疑与核算。要点:
- 数据口径:所谓 51% 是 MXFP8 相对 BF16 峰值的比例。950DT 宣称最高档 36-Cube-Core 达 547 TFLOPS,低档为 486/425 TFLOPS,实际每卡约 217-279 TFLOPS。对照 DeepSeek 2024 年在 H800 上做到 385 TFLOPS,「grim」。
- 模型对比:Pangu 为 505B 总参/18B 激活,对比 V3 的 671B/37B,Pangu 训练可能更棘手;其 step time 还包含比 AdamW 更贵的 Muon 优化器,以及 mHC 和 SWA。
- 逐步复算:每步 33.5M tokens(每卡 32,768),加 MegaMoE 后约 39.4s/步,约 830 tokens/s/卡;按 6×18B≈108 GFLOP/token 算约 90 TFLOPS/卡,加 attention 也仅 115-120 TFLOPS,约为 500 TFLOPS 峰值的 22-25%,而非 51%。
- 与 DeepSeek 对比:DeepSeek 每 H800 跑约 1,540 tokens/s(激活参数翻倍的模型),若 Table 3-2 即头条数据,则一张昇腾卡约为 H800 的四分之一,而非此前估的 60-65%。
- 保留态度:作者也列出可能解释(不同 profiling 配置、BF16 峰值口径、FLOPs 计数方式),并承认 60-65% 只能当上限,报告未给绝对 tokens/s。
所属事件:昇腾 950 FP8 训练实测引争议,MFU 数据遭质疑(2 条相关)→
「Infra」频道最新
- MLX 经 Vulkan 跑出 124 tok/s,同卡速度反超 CUDA 25% — SumitGup · 2026-11-22
- Prime Intellect 遭入侵:托管 DeepSeek 被换成「去审查版」53 小时 — mawcopolow · 2026-11-22
- Token 经济模型:API 支出四年或增 11.5 倍,但仅 1% 用户能撑起算力账单 — AccBalanced · 2026-11-22
- 零质量损失跑 Strata:调 layer_split 后 CPU 专家未命中率 22% 降至 12% — PathfinderTactician · 2026-11-22
- llama.cpp Vulkan 修复 PR 让 Inkling 2 Mini 推理提速 2.3-3.2 倍 — pmttyji · 2026-11-22
- 千元级 V100 32G 实测 Qwen 27B 量化:Q4_K_M 生成快 48%,Q8_0 预填快 16% — PuzzleheadedArm3732 · 2026-11-22