Vera Rubin 每块 Rubin GPU:HBM4 19.2TB/s、NVLink 3TB/s,CUDA 13.4 配合 vLLM 可分区调度
anbarth · x · 2026-11-03
anbarth 整理了 NVIDIA Vera Rubin NVL72 的关键规格:每块 Rubin GPU 的 HBM4 显存带宽达 19.2 TB/s,GPU 间 NVLink 为 3 TB/s 双向带宽;他特别指出这两个数字都不描述 NV-HBI(芯片内部 die-to-die 连接),容易混淆。
后续他补充:配合 CUDA 13.4,vLLM 可以把权重和计算绑定到同一分区——用 GreenContext(smpartition=...) 控制 kernel 运行的 SM 分区,用 LocalizedAllocator 控制显存分配位置,从而在 Rubin 架构上做本地化资源调度,并附上完整代码。
链接的 NVIDIA 官方页面介绍:Vera Rubin NVL72 机架集成 72 块 Rubin GPU、36 颗 Vera CPU、ConnectX-9 SuperNIC 与 BlueField-4 DPU,官方称训练所需 GPU 数量为 Blackwell 的四分之一、每百万 token 推理成本降至十分之一,并已进入全面量产。
所属事件:vLLM 适配 Rubin 双芯架构:权重分片就近绑定本地算力(3 条相关)→
「编程与Agent」频道最新
- DeepSeek 公开 Harness Creator Mode 全部 7 个示例插件 prompt — rohanpaul_ai · 2026-11-03
- 前字节员工爆料：扣子Coze即将下线，工作流被Agent内化淘汰 — dotey · 2026-11-03
- Apple 推出 iPrefBench:130 项欠指定任务评测个人 agent 的提问分寸 — hhsun1 · 2026-11-03
- 耶鲁团队开源 Claude 绘图 skill：Opus 直出论文级示意图 — CatAstro_Piyush · 2026-11-03
- Prized 推出无限存储：单机最高 40TB，速度媲美本地磁盘 — thisguyknowsai · 2026-11-03
- Agent 时代重审 rebase 之争:让 AI 读 git 历史,还何必纠结 merge commit — davidcrawshaw · 2026-11-03