Rubin 单封装塞两颗 compute die,只跑一颗就浪费一半核心

anbarth · x · 2026-11-03

Rubin 把两颗 compute die 封装进一颗 GPU,模型放得下但要为跨 die bridge 的读取付出代价。配图展示了双 die 布局:HBM4 合计 19.2 TB/s、die 间 NV-HBI 约 10 TB/s(Blackwell 参考值)、GPU 间 NVLink 6 合计 3 TB/s。

vLLM 的可选 MoE 路径把权重分片与两颗 die 上的本地算力配对,只用一颗 die 会让另一颗核心闲置。

所属事件:vLLM 适配 Rubin 双芯架构:权重分片就近绑定本地算力(3 条相关)→

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →