NVL72的机架内外带宽断崖
AccBalanced · x · 2026-07-17
帖子强调了 NVIDIA NVL72 机架内部与机架外部的通信差异：
- 机架内 GPU 之间可通过 NVLink 以约 1.8 TB/s 互联；
- 一旦流量离开机架，网络卡带宽会降到大约 50 GB/s；
- 这种约 18 到 36 倍的带宽落差，解释了 NVIDIA 的一部分定价权。
作者的结论是：芯片只完成了产品的一半，真正的产品还包括机架级互联与系统设计。
「Infra」频道最新
- 推理服务关键指标盘点:流式速度 TPOT 与可用性如何影响体验 — abhijithneil · 2026-09-11
- PlanetScale 推出分片 Postgres,768 台服务器组成 1PB 单库 — dhruv2038 · 2026-09-11
- 7900 XTX 24GB 能否跑 Qwen，Reddit 征集 ROCm 实测数据 — thenomadexplorerlife · 2026-09-11
- 实测戳破 RTK 省钱神话:token 省了,账单分文未降 — Bartaseth · 2026-09-11
- SF Compute 创始人：现在买算力是「绝对糟糕的体验」 — IgorCarron · 2026-09-11
- 开源 SmolVM:2026 年 Agent 不止用浏览器,而是拥有整台电脑 — aniketmaurya · 2026-09-11