NVL72的机架内外带宽断崖
AccBalanced · x · 2026-07-17
帖子强调了 NVIDIA NVL72 机架内部与机架外部的通信差异： - 机架内 GPU 之间可通过 NVLink 以约 1.8 TB/s 互联； - 一旦流量离开机架，网络卡带宽会降到大约 50 GB/s； - 这种约 18 到 36 倍的带宽落差，解释了 NVIDIA 的一部分定价权。 作者的结论是：芯片只完成了产品的一半，真正的产品还包括机架级互联与系统设计。
AccBalanced · x · 2026-07-17
帖子强调了 NVIDIA NVL72 机架内部与机架外部的通信差异： - 机架内 GPU 之间可通过 NVLink 以约 1.8 TB/s 互联； - 一旦流量离开机架，网络卡带宽会降到大约 50 GB/s； - 这种约 18 到 36 倍的带宽落差，解释了 NVIDIA 的一部分定价权。 作者的结论是：芯片只完成了产品的一半，真正的产品还包括机架级互联与系统设计。