Hot Chips 聚焦 AI 内存瓶颈：3D DRAM 与 zHBM 并行演进

Hot Chips 大会集中讨论了 AI 算力爆发带来的存储瓶颈问题：HBM 需求预计增长 24 倍并已出现全球性短缺，业界正沿 HBM 持续演进与 3D DRAM/zHBM 两大方向推进，两大技术因各有优势预计长期共存。

已确认

@firstadopter 转述 Hot Chips 披露的数据：AI 算力爆发导致 HBM 需求增长 24 倍，市场面临严重短缺；三星高管也在会上表示下一代 AI 架构需要大幅提升 HBM 容量。
SK Hynix 高管在会上强调 HBM 在当前 AI 算力架构中的统治地位，并展示混合键合（hybrid bonding）与 I-HBM 技术进展，以解决 SRAM 虽快但容量受限的瓶颈。
三星公布 zHBM 发展路线图，称相比 HBM5，新一代 zHBM 有望将功耗降低 70%。
@GavinSBaker、@elonmusk 与 @sedricm 总结会场共识：每家加速器公司最终都大概率会做某种 3D DRAM 或 zHBM 的变体，大公司可能（且正在）并行推进两个项目，两种技术因各有优势预计长期共存；会后 3D DRAM 与 zHBM 作为 AI 推理架构优化方向引发热议，Vikram Sekar 重申了对 d-Matrix 方案的关注。
关于 3D DRAM 的技术优势：@zephyrz9 指出其效率和带宽均优于 HBM4，但逻辑层堆叠在内存之上会带来供电设计的巨大挑战；@bookwormengr 在 HotChips 2026 相关讨论中补充，若将 DRAM 放在逻辑芯片下方或上方，相比 2.5D 封装的 HBM 带宽更高，但容量（GB）较小；他同时将 zHBM 视为 HBM 演进的第三阶段。
@firstadopter 的分析指出，短缺根源在于 AI 与高性能计算需求激增、半导体供应链瓶颈及产能扩张滞后，各厂商正在扩产应对。

内存而非算力正在成为 AI 基础设施的关键约束，24 倍的需求增长与短缺意味着存储供应链将直接影响未来 AI 芯片的出货节奏。
3D DRAM 与 zHBM 若能落地，将在带宽和功耗上显著超越现有 HBM 路线，但供电设计与容量取舍仍是工程难题，技术路线之争将影响未来数年加速器架构格局。

2026-08-24 ~ 2026-08-24 · 11 条相关

另有 2 条近重复转述:sedricm · elonmusk