昇腾 950 超节点训 DeepSeek V4：2 机架跑 273K tok/s
teortaxesTex · x · 2026-10-17
华为持续以 DeepSeek 为默认参照推广其昇腾（Ascend）栈。据引用的 CANN 参考实践材料：
- DeepSeek V4.1 Flash（550B）：1 个超节点（128 卡）即可训练，EP 通信全部在节点内部，配合 FSDP128/EP64 等并行配置。
- V4 Pro（1.6T）：需 2 个超节点（256 卡），用跨两节点的 FSDP2，无流水线气泡。
- 10T 超大模型：需 8 个 UBL128 共 1024 张 NPU，叠加 PP 流水线，同时保证 EP 专家并行通信只在单个 UBL 内部，以减少跨节点通信开销。
性能亮点：在 PC16 集群、64 卡、4K 序列长度下，DeepSeek V4 Flash 训练吞吐达 2,131 tokens/s/NPU。teortaxesTex 指出：V4.1 Flash 用 2 个机架训练可达 273K tok/s，约合每天不到 240 亿 token，但序列长度仅 4K（与 DeepSeek 官方做法不同），因此只适合微调用途。
「Infra」频道最新
- NVIDIA 上架多模态 Reranker:支持图表表格理解的多语言视觉 RAG 重排 — solyarisoftware · 2026-10-17
- Databricks 研究团队改用 agent 集群跑实验,训练量一年涨 8 倍 — matei_zaharia · 2026-10-17
- e/acc 领袖力挺本地 AI：是文明基础设施，云厂商无权把关 — beffjezos · 2026-10-17
- 显存短缺推高显卡价格：RTX 50 系均价一年涨 66%，5090 涨 132% — jasonkneen · 2026-10-17
- 链上 AI 推理量激增：Venice 日 tokens 破 5000 亿，Bittensor 将扩容矿工 — 0xJeff · 2026-10-17
- 传 Anthropic 向 Blackstone 求融资 承诺回报超 10% — Polymarket · 2026-10-17