SemiAnalysis:4-hi HBM 同带宽更少die,推理成本更低成新趋势
dylan522p · x · 2026-09-14
SemiAnalysis 最新付费文章指出,DRAM 极度短缺背景下,HBM 堆叠趋势正在逆转:下一代加速器将从当前 12-hi 标准转向 8-hi,Nvidia Rubin Ultra 即是如此——单卡容量从 288GB 降至 192GB。
更关键的判断:对以带宽为核心的推理负载,4-hi HBM 能提供最优的每美元带宽、即最低每 token 成本;容量在超过阈值后边际收益递减,但增量堆叠仍带来同样成本。主要实验室的 ASIC 硬件团队已计划从 HBM4 世代起采用 4-hi 方案,与「在数据中心功耗约束下最大化 tokens/Watt」的思路一致。
所属事件:SemiAnalysis:HBM 堆叠转向 8-hi,同带宽成本更低(2 条相关)→
「Infra」频道最新
- 台积电拟明年 CoWoS 先进封装涨价至多 20%，AI 芯片需求持续火爆 — Beth_Kindig · 2026-10-31
- effect-harness + Cloudflare：agent 循环自由拆到多台 VM 上跑 — samgoodwin89 · 2026-10-31
- 谷歌 Project Suncatcher 太空 TPU 首次在轨运行并返回结果 — sundarpichai · 2026-10-31
- Together AI 推出 Post-Training 平台:Agentic RL 训练托管服务 — togethercompute · 2026-10-31
- General Compute 融资 1 亿美元投推理算力，CoreWeave 股价同周创新低 — YvesMulkers · 2026-10-31
- 分析师警告 AI 算力「越买越涨」正反馈环,Kioxia 闪存涨价预警引发闪崩 — bookwormengr · 2026-10-31