Rubin 单封装塞两颗 compute die,只跑一颗就浪费一半核心
anbarth · x · 2026-11-03
Rubin 把两颗 compute die 封装进一颗 GPU,模型放得下但要为跨 die bridge 的读取付出代价。配图展示了双 die 布局:HBM4 合计 19.2 TB/s、die 间 NV-HBI 约 10 TB/s(Blackwell 参考值)、GPU 间 NVLink 6 合计 3 TB/s。
vLLM 的可选 MoE 路径把权重分片与两颗 die 上的本地算力配对,只用一颗 die 会让另一颗核心闲置。
所属事件:vLLM 适配 Rubin 双芯架构:权重分片就近绑定本地算力(3 条相关)→
「Infra」频道最新
- Datadog 工程师主张:AI Agent 默认上 Serverless,再用生产数据决定取舍 — rseroter · 2026-11-03
- Anthropic 算力账单一飙四倍,免费伙伴额度正让位于付费租赁 — GaryMarcus · 2026-11-03
- Reddit 求证 Basalt 与 nvfp4 量化模型的质量退化对比数据 — Kooky-Mode3047 · 2026-11-03
- Gratis 发布:浏览器里免配置本地运行开源模型 — markjeffrey · 2026-11-03
- SPC NYC 算力交易论坛将开:Jump、Cantor 等算力交易负责人同台 — ditzikow · 2026-11-03
- Workers IO 发布:用数百万次故障注入仿真解决 AI 代码验证难题 — ycombinator · 2026-11-03