Meta 首个吉瓦级超集群 Prometheus 一期完工,目标百万 GPU
BenBajarin · x · 2026-10-20
Meta 工程博客详解其吉瓦级超集群 Prometheus:位于俄亥俄州 New Albany 的站点两年内从普通数据中心改造为前沿模型训练基地,一期已完工并用于训练 Muse 系列基础模型(含在个人与专业 agentic 任务上达到 SOTA 的 Muse Wonder 前沿模型),最终目标扩展至约 100 万张 GPU。
关键技术细节:
- 采用闭环液冷提升能效
- 机架选用 GB200 NVL72 的 Ariel 变体:每块 Blackwell GPU 配一颗 Grace CPU 和 2 张 ConnectX-7 400G 网卡(1:1 CPU/GPU 比),比业界更早实现每 GPU 800G I/O,弥补 NVL72 scale-out 带宽仍为 400G 的失衡
- 训练稳定性方面,Muse Wonder 预训练 goodput 超 85%,RL 训练 goodput 超 90%
所属事件:Meta 首次披露吉瓦级超集群 Prometheus 细节(4 条相关)→
「Infra」频道最新
- Arm AGI CPU 首测：每机架性能达 AMD EPYC 1.99 倍 — ryanshrout · 2026-10-20
- Anthropic 或再向 Nscale 采购 450 亿美元算力，西弗吉尼亚建第二座数据中心 — firstadopter · 2026-10-20
- Semicon West 与 OCP 双会观察:3000 亿美元半导体设备市场与 TSMC N5 转 N3 — BenBajarin · 2026-10-20
- 高通联合 Liquid AI 推 Liquid Context,压缩多模态输入缓解端侧内存瓶颈 — JosephJacks_ · 2026-10-20
- PyTorchCon 企业 AI 日:Red Hat、NVIDIA、IBM 联手企业级落地专场 — PyTorch · 2026-10-20
- 新研究:SOAP/SPlus 白化梯度协方差,96 个 DiLoCo 节点稳定扩展预训练 — aaron_defazio · 2026-10-20