Rubin算力增速快于带宽
Beth_Kindig · x · 2026-07-11
Beth Kindig 指出,NVIDIA Rubin 的推理算力据称是 Blackwell 的 5 倍,但 HBM 带宽只提升 2.8 倍,因此“内存墙”依然存在。
文章的核心判断是:随着超大规模云厂商从 AI 扩张转向 AI 变现,更高效地利用内存会变得更重要;其中,offload engine 被视为提升 tokens per watt 的关键方案。
所属事件:英伟达Rubin算力增5倍但内存墙犹存(2 条相关)→
「Infra」频道最新
- 34 个开源模型全部自托管在 Blackwell 集群上跑健康评测 — keunwoochoi · 2026-10-27
- 曝 Anthropic 与 SpaceX 签算力大单:每月 31 亿美元,至 2029 年共 1205 亿 — ns123abc · 2026-10-27
- 开源编译器 Latch 从 PyTorch 生成训练 megakernel,H100 上提速 2.75 倍 — sguada · 2026-10-27
- NVIDIA 称 HGX Rubin NVL8 每兆瓦 token 吞吐为 B200 的 10 倍 — thursdai_pod · 2026-10-27
- 要么人力商品化,要么 GPU 商品化:算力经济二选一之辩 — _AustinCalvert_ · 2026-10-27
- DeepSpeed 发布 AutoEP/AutoTP 等并行化进展并办线上答疑 — PyTorch · 2026-10-27