曝 Groq 下一代推理芯片将 3D 堆叠 DRAM,突破 SRAM 容量瓶颈
rohanpaul_ai · x · 2026-10-21
据韩国半导体行业消息,Groq 计划在下一代推理芯片中采用 3D 堆叠 DRAM 封装,以摆脱「速度快但容量小」的 SRAM 中心设计。由于英伟达去年 12 月斥资 200 亿美元获得 Groq 技术授权并收编其核心团队,这款芯片实际上是英伟达的下一代 LPU。
核心矛盾:带宽 vs 容量
- 每个 token 生成都要从内存读权重,带宽决定速度
- Groq 3 LPU 的 500MB 片上 SRAM 带宽达 150TB/s,约为 Rubin GPU HBM 的 7 倍,足以支撑每秒数千 token
- 但一个 256 芯片机架总容量仅 128GB,不如一颗 Rubin GPU 的 288GB;8-bit 万亿参数模型光权重就需约 2000 颗芯片
两条技术路线
- 传闻中的 3DS 方案:用 TSV 垂直堆叠 DRAM,保留标准 DRAM 接口,主要在普通 DRAM 速度下增加容量
- 更激进的混合键合路线(SK Hynix DRAM 直接熔接逻辑晶粒):带宽密度可达 HBM 约 10 倍,每 bit 能耗降低 77%-83%
Cerebras 也计划在其 CS-6 晶圆上堆叠 DRAM,说明容量天花板正约束所有 SRAM 优先的设计。最终键合方式决定走向:3DS 主要是加容量,混合键合才可能逼近 SRAM 级带宽。
所属事件:传英伟达旗下 Groq 新芯片将 3D 堆叠 DRAM 破 SRAM 瓶颈(3 条相关)→
「Infra」频道最新
- MCP 7 月 28 日版本实现远程服务器无状态化 — bibryam · 2026-10-23
- MCP 生态大会:AAIF 成员达 305 家,Skills over MCP 等路线图曝光 — bibryam · 2026-10-23
- 仅 8% 云厂商支持 OIDC,开发者呼吁彻底告别长期 API 密钥 — cramforce · 2026-10-23
- Swift-1.5-Qwen3.8-27B 移植 hipfire：7900 XT 上端到端快 2.2 倍 — Queasy_Asparagus69 · 2026-10-23
- Intel CTO：芯片产能最多翻倍，追不上 AI 算力每年 3 倍增速 — SammaVaco · 2026-10-23
- 工程师拆解投影电视唤醒慢根因：双 Linux 板冷启动拖慢 10 秒 — banteg · 2026-10-23