NVL72+Groq 机架吞吐分析

Beth_Kindig · x · 2026-07-13

NVIDIA 的 Vera Rubin NVL72 机架如果配合 Groq 3 LPX 机架,I/O Fund 引用的数据称: - 每兆瓦 token 吞吐量最高可提升到 35 倍 - 对 AI factories 来说,收入机会可比 Blackwell 高 10 倍 - 获取 1TB HBM 的成本,超过用 Blackwell GPU 再加 1TB DDR5 的 5 倍以上 作者认为,随着 GPU 扩容继续受内存成本约束,**offload engine** 可能会成为下一阶段按独立于 GPU 扩展内存的关键方案。

原文链接 →