ENGRAM 真是免费午餐吗？深度拆解 DRAM 卸载嵌入表技术
bookwormengr · x · 2026-09-27
作者长文分析 SemiAnalysis 报道后引发热议的 ENGRAM 技术——SemiAnalysis 称其可带来每 GW 50% 的营收提升，价值数十亿美元。
- 原理：将 token 序列的嵌入（语义表示）存入可卸载到 DRAM 的嵌入表，节省昂贵的 HBM 显存
- 收益：为 KV Cache 腾出空间、降低每 token 的 FLOPs，意味着更少的内存与加速器开销
- 性能：据 SemiAnalysis 数据带来显著性能提升
- 作者也质疑这是否真是"免费午餐"、是否影响模型质量，并回顾了自己自 2026 年 2 月以来对此技术的持续讨论
「Infra」频道最新
- NAND 位产能达 DRAM 22 倍,CXL 内存池化主打提升利用率 — zephyr_z9 · 2026-09-27
- Memory Attention 论文:用查表替代价值投影,可卸载到 CPU 省 GPU 显存 — serrjoa · 2026-09-27
- 囤了三年内存暴涨5倍:64GB DDR5 套条报价升至9万卢比 — ojasvi_yadav · 2026-09-27
- 200mm 晶圆热压键合参数曝光:70kN 压力 400-450°C — jwt0625 · 2026-09-27
- 曝 OpenAI 算力告急：Pro 正变成新 Plus，Plus 降级为免费 — ns123abc · 2026-09-27
- 英国北德文郡民众抗议在联合国生物圈保护区建1.5GW AI数据中心 — nordicinst · 2026-09-27