Meta Prometheus 超算细节：GPU 集群仅 87% 可用，13% 作热备闲置

SumitGup · x · 2026-10-22

Meta 工程博客详解吉瓦级超集群 Prometheus(俄亥俄 New Albany,一期已完工并用于训练 Muse 基础模型，目标扩展到约 100 万 GPU)的关键工程账：

87% 可用率之谜：超大规模 GPU 集群只有约 87% 可用，其余 13% 是保持上电的机架内热备——这是内存、存储和 GPU 昂贵的原因之一；
NVL72 分配几何：训练并行度最适配 2 的幂分组，每个 NVL72 域只跑 64 GPU 切片、8 GPU 作机架内备件；GPU 故障时备件立即顶上，任务从上个 checkpoint 重启而非等硬件维修；
算账：32768 激活 GPU 的训练需配置 523 个 NVL72 机架、共 37656 GPU,超出激活规模约 13%,其中 11 个百分点来自 64/72 切片几何而非纯可靠性税；另为整机架故障保留约 2% 额外机架；
预训练 goodput 超 85%,Muse Wonder 的 RL 运行 goodput 超 90%;采用闭环液冷。

「Infra」频道最新