降 12-Hi 到 8-Hi:每 GB 带宽升 50%, Rubin Ultra 的 HBM 算账
AccBalanced · x · 2026-09-06
SemiAnalysis 的后半段推导:容量 ≈ 堆栈数 × 每堆栈 die 数 × 单 die 容量;带宽 ≈ 堆栈数 × 接口宽度 × 引脚速度。堆叠高度只买容量不买带宽——从 12-Hi 降到 8-Hi 砍掉三分之一的 DRAM die(BOM 中供应最紧张的芯片),而带宽持平甚至略升。
- 每 GB 容量的带宽提升约 50%,恰逢 HBM 涨价,$/bandwidth 显著改善
- 推理是带宽瓶颈型负载:每解码一个 token 都要重读权重和 KV cache
- 因此 Nvidia 的取舍逻辑是优先带宽单位成本而非容量单位成本
所属事件:SemiAnalysis 揭示 Rubin Ultra HBM 降为 8-Hi 原因(2 条相关)→
「Infra」频道最新
- 哈萨克斯坦扩建 AI 算力：Firebird 携手 NVIDIA 加码基础设施 — nvidia · 2026-10-23
- 黄仁勋到访阿斯塔纳，与哈萨克斯坦副总理畅谈 AI 国家战略 — nvidia · 2026-10-23
- 实测RTX 4060：FP16矩阵乘法并非恒快2倍，大矩阵提速约3.5倍 — cneuralnetwork · 2026-10-23
- BaseQuant V1 量化 Qwen3.8-27B,KL 散度比 Unsloth 低 17–34% — nightowlsleeping · 2026-10-23
- 欧洲博士生可随需使用 B200,美国同行要靠数据创业公司养项目 — HildeKuehne · 2026-10-23
- 英伟达柏林 GTC:人形机器人与 Vera Rubin 超算成主角 — emmanuelvivier · 2026-10-23