Rubin算力增速快于带宽
Beth_Kindig · x · 2026-07-11
Beth Kindig 指出,NVIDIA Rubin 的推理算力据称是 Blackwell 的 **5 倍**,但 HBM 带宽只提升 **2.8 倍**,因此“内存墙”依然存在。 文章的核心判断是:随着超大规模云厂商从 AI 扩张转向 AI 变现,**更高效地利用内存**会变得更重要;其中,**offload engine** 被视为提升 **tokens per watt** 的关键方案。
Beth_Kindig · x · 2026-07-11
Beth Kindig 指出,NVIDIA Rubin 的推理算力据称是 Blackwell 的 **5 倍**,但 HBM 带宽只提升 **2.8 倍**,因此“内存墙”依然存在。 文章的核心判断是:随着超大规模云厂商从 AI 扩张转向 AI 变现,**更高效地利用内存**会变得更重要;其中,**offload engine** 被视为提升 **tokens per watt** 的关键方案。