内存已占 AI 加速器成本 63%,五十年行业优先级被逆转
Summit-Star001 · reddit · 2026-09-14
三星在 Hot Chips 2026 上引用 Epoch AI 数据:内存占 AI 加速器建造成本的比例从 2024 年初的 52% 升至 2025 年底的 63%,封装内内存硅面积与处理器硅面积之比超过 8:1(Micron 数据)。
要点:
- 算力约每两年提升 3 倍,而内存带宽同期连翻倍都做不到,芯片大量时间在等数据。
- 当内存占成本三分之二时,减少数据搬运比缩小制程更划算,颠覆了行业五十年的优先级排序。
- DRAM 每 GB 现货价涨约 7 倍,但出货比特量几乎没动——所谓短缺大多是靠涨价完成的;晶圆产能十年持平,新厂要两年以上,三大厂商没怎么扩产也录得创纪录营收。
- 三星把乘法单元直接放进内存芯片,Llama 3.1 8B 实测 tokens/s 提升约 3 倍;Oxmiq 用堆叠闪存存权重,带宽约减半但容量提升约 14 倍。
「Infra」频道最新
- Q2 全球前十大晶圆厂营收 535 亿美元,台积电独占 72.5% 份额 — Beth_Kindig · 2026-09-14
- RTX 3090 24G 单卡跑 Qwen3.8 27B INT4，144K 上下文 71/75 评测 — Altruistic_Heat_9531 · 2026-09-14
- Nvidia 单季净利 597 亿美元,日均赚约 6.6 亿美元 — himanshustwts · 2026-09-14
- 极客用 Claude Code 造超小神经网络,M4 芯片跑出 1500 tok/s — GregoryDiamos · 2026-09-14
- 10 美元开发板跑 10 亿参数 LLM:纯 C、零依赖、256MB 内存离线推理 — tom_doerr · 2026-09-14
- AirLLM 逐层流式加载：4GB 显存跑 70B 模型，2.8T Kimi K3 不到 4GB — alex_verem · 2026-09-14