英伟达 8 节点 DGX Spark 集群转正：900M 训练扩展效率达 97.4%
TheZachMueller · x · 2026-10-24
在 Your Local AI Lab 协助下，英伟达正式支持 8 节点 DGX Spark 集群（ConnectX-7 互联），并给出两组扩展结果：
- 训练：从零训练一个 900M 参数模型，加速 7.79 倍，扩展效率高达 97.4%（近线性）
- 推理：在同样的 8 节点上服务 27B 模型，prefill 加速 1.94 倍，decode 加速 4.43 倍
配图显示 decode 扩展测试基于 Qwen3.8-27B-NVFP4、关闭投机解码；启用 ROCEnante 后 8 节点 decode 从 3.05x 提升至 4.43x。训练近线性扩展、推理扩展明显偏低，是这套小集群的典型画像。
「Infra」频道最新
- Cloudflare 用自研 CPU profiler 让 Workers 可观测性开销降 50% — irvinebroque · 2026-10-24
- Linus 爆料：一台 Vera Rubin 机架至少要烧约 700 万美元 — LinusEkenstam · 2026-10-24
- 单卡 RTX 6000 跑 DSF4.1 达 280 tok/s,社区追问如何冲上 500 — capetorch · 2026-10-24
- 多伦多 PS5 Pro 全面断货，内存涨价潮波及消费硬件 — Rasmic · 2026-10-24
- 开源推理引擎 kapitsa：树形投机解码让 Mac 本地多 agent 吞吐提升 23% — DotaMate · 2026-10-24
- Zagitta 解锁补丁实测:中国版 3080 20GB prefill 快 20%,decode 持平 — No-Refrigerator-1672 · 2026-10-24