Qualcomm 押注近内存计算
ryanshrout · x · 2026-07-14
这条帖子转述了对 Qualcomm Investor Day 的一个关键判断：AI 时代真正重要的，不只是某一颗加速器或处理器，而是其背后的内存架构。
作者引用 Qualcomm 的说法：过去十年 transformer 模型规模大约每两年增长 240 倍，而 AI 硬件内存只增长 2 倍。High Bandwidth Compute（HBC）把计算放进内存封装内，让 DRAM 堆栈内部带宽更接近工作负载实际可用带宽，而不再主要受外部接口限制。
帖子还提到路线图上的激进目标：
- Dragonfly AI250 上的 HBC Gen 1 预计带来 18 倍有效内存带宽提升
- AI300 上的 Gen 2 目标是 54 倍
但作者也强调，这些是路线图预测，不是实测结果；真正的挑战在于它们能否在真实推理负载中兑现。
「Infra」频道最新
- 实测戳破 RTK 省钱神话:token 省了,账单分文未降 — Bartaseth · 2026-09-11
- SF Compute 创始人：现在买算力是「绝对糟糕的体验」 — IgorCarron · 2026-09-11
- 开源 SmolVM:2026 年 Agent 不止用浏览器,而是拥有整台电脑 — aniketmaurya · 2026-09-11
- PyTorch Day Korea 2026 首届线下大会启动,9月13日截止征集演讲 — PyTorch · 2026-09-11
- 本地跑 LLM 选卡:4 张 CMP-170HX 涨价 vs Mac Studio M5 — rumboll · 2026-09-11
- llama.cpp 为 RDNA4 调优 Flash Attention,大上下文提升明显 — pmttyji · 2026-09-11