微软 MAI-Base-2 用 1.6 万块 GB200 训练 38 天，MFU 仅 21%
scaling01 · x · 2026-10-16
scaling01 引用微软的披露：MAI-Base-2 于 2026 年 8-9 月在 1.6 万块 GB200 GPU 上训练 38 天，平均 MFU 为 21%，goodput 达 89%（MFU 按 GB200 BF16 理论峰值 2.5 PFLOPS 归一化，不含重计算和优化器开销）。
他借此指出：预训练一个前沿模型并不需要很长时间，而 1.6 万块 GB200 的算力规模「也就相当于几个 OpenAI 研究员手里的量」，说明头部实验室的算力储备远超这一规模。
所属事件:曝微软 MAI-Base-2 为 2.8T MoE，1.6 万块 GB200 训练 38 天(2 条相关)→
「Infra」频道最新
- llama.cpp v0.7.0 发布:MoE 专家 GPU 缓存使解码最快提速 2.2 倍 — EAccelerate_42 · 2026-10-16
- NVIDIA 发布 Nemotron 3.5 Bolt：74B 模型塞进 24GB 显存 — NVIDIAAI · 2026-10-16
- Creative Strategies 发布 CS Forecast Stack：19 个模型联动预测 AI 全经济栈 — BenBajarin · 2026-10-16
- 铜转光：机架级光背板成 AI 数据中心下一步设计刚需 — BenBajarin · 2026-10-16
- Polymarket 开出 28% 概率：年内将有美国州级数据中心禁令落地 — Polymarket · 2026-10-16
- 宾州居民拒绝每户 1 万美元补偿，抵制亚马逊大型数据中心进驻 — Polymarket · 2026-10-16