内存已占 AI 加速器成本 63%,五十年行业优先级被逆转
Summit-Star001 · reddit · 2026-09-14
三星在 Hot Chips 2026 上引用 Epoch AI 数据:内存占 AI 加速器建造成本的比例从 2024 年初的 52% 升至 2025 年底的 63%,封装内内存硅面积与处理器硅面积之比超过 8:1(Micron 数据)。
要点:
- 算力约每两年提升 3 倍,而内存带宽同期连翻倍都做不到,芯片大量时间在等数据。
- 当内存占成本三分之二时,减少数据搬运比缩小制程更划算,颠覆了行业五十年的优先级排序。
- DRAM 每 GB 现货价涨约 7 倍,但出货比特量几乎没动——所谓短缺大多是靠涨价完成的;晶圆产能十年持平,新厂要两年以上,三大厂商没怎么扩产也录得创纪录营收。
- 三星把乘法单元直接放进内存芯片,Llama 3.1 8B 实测 tokens/s 提升约 3 倍;Oxmiq 用堆叠闪存存权重,带宽约减半但容量提升约 14 倍。
「Infra」频道最新
- effect-harness + Cloudflare：agent 循环自由拆到多台 VM 上跑 — samgoodwin89 · 2026-10-31
- 谷歌 Project Suncatcher 太空 TPU 首次在轨运行并返回结果 — sundarpichai · 2026-10-31
- Together AI 推出 Post-Training 平台:Agentic RL 训练托管服务 — togethercompute · 2026-10-31
- General Compute 融资 1 亿美元投推理算力，CoreWeave 股价同周创新低 — YvesMulkers · 2026-10-31
- 分析师警告 AI 算力「越买越涨」正反馈环,Kioxia 闪存涨价预警引发闪崩 — bookwormengr · 2026-10-31
- SOMA 推出企业级提示压缩层，宣称推理成本省 20% 以上 — markjeffrey · 2026-10-31