ENGRAM 内存架构或重塑数据中心 DRAM/HBM 配比,省下数十亿美元
AccBalanced · x · 2026-09-27
- SemiAnalysis 分析称 ENGRAM 内存技术可使每 GW 收入提升 50%,对 AI 行业是巨大利好。
- 受 ENGRAM 和 YOCO 架构双重推动,数据中心的 DRAM/HBM 配比将明显向 DRAM 倾斜;由于 1 bit HBM 约等于 3 bit DRAM 的成本关系,这将大幅节省超大规模厂商和大实验室的开支。
- 受 YOCO 启发的新模型架构(作者称 DeepSeek V4.1 Flash、Mimo V3 已开始采用)prefill-decode 不对称、KV footprint 极小,用 DRAM 承载 KV 的经济性可接近 SSD offload,使 DRAM 成为最大赢家;HBF(高带宽闪存)也因此在 prefill 场景更可行。
- 作者预告后续第二篇展开,并提到 Meta Muse 建设的助攻。
所属事件:ENGRAM 内存技术引热议,称可大幅提升数据中心营收(3 条相关)→
「Infra」频道最新
- 谷歌宣布 Gemini 3.5 Flash 可在断网气隙环境运行 — shashib · 2026-11-16
- Gemma.c:单文件 C 实现 Gemma 1/2/3 多模态推理,纯 CPU 跑 72 tok/s — This-Purchase-3325 · 2026-11-16
- Sarvam 在印度上线 Token Factory 托管开源模型推理 — itsOmSarraf_ · 2026-11-16
- BIS 规则原文:封堵先进 AI 芯片的远程访问通道 — apples_jimmy · 2026-11-16
- 越狱PS4直连2013年GPU跑9B开源模型,速度达43 tokens/s — AIFlow_ML · 2026-11-16
- Mobile AI Factory:agent 自动为你的手机造专用小模型,GPU 时间省 19 倍 — pmttyji · 2026-11-16