DeepSeek Engram 等创新：以 FLOPs 换 HBM 的推理优化
bookwormengr · x · 2026-09-02
讨论了 AI 推理领域用更多 FLOPs 交换更少 HBM 内存的新趋势。训练中已知的前向传播删除激活并在反向传播中重计算的技术已存在。推理方面，DeepSeek 发明的 Engram 技术允许将大型嵌入表托管在 LPDDR 中，减少 HBM 存储和 FLOPs，该技术已被 Longcat 2 和 Qwen-3-Next 采用。此外，Kimi K3 和 GLM-5.3-Flash 使用的线性注意力机制也利用了可用的 SRAM。这些架构创新将显著提升推理性能。
所属事件:算力换显存成 AI 推理优化新趋势(3 条相关)→
「Infra」频道最新
- 英伟达担保兜底，银行愿借 9.47 亿美元买 GPU — rohanpaul_ai · 2026-09-02
- 戴尔预测2030年推理需求暴增87倍，企业智能体将成最大负载 — toptickcrypto · 2026-09-02
- Agent 用量已是人类 14 倍，算力需求激增 — BenBajarin · 2026-09-02
- WSJ:AI 竞赛新瓶颈不是 GPU 和电力,而是盖楼速度 — rohanpaul_ai · 2026-09-02
- AI 内核生成易如反掌，端到端栈支持才是关键 — clattner_llvm · 2026-09-02
- CMP 170HX 翻车：两周挂两块，张量核缺陷 — cantgetthistowork · 2026-09-02