算力换显存成 AI 推理优化新趋势

前 DeepLearning.AI 讲师、Lamini 创始人 Sharon Zhou 判断，由于每 token 的 FLOPs 成本相对 HBM 显存成本持续下降，将出现一大批以算力换显存的算法。类似训练中前向删除激活、反向重计算的技术，推理侧也出现 DeepSeek 发明的 Engram 架构等创新，允许在 LPDDR 等更便宜的内存上托管更大的 embedding 表，目前已被 Qwen、Longcat 等广泛采用。

2026-09-02 ~ 2026-09-02 · 3 条相关

• Sharon Zhou：FLOPs 相对显存变便宜，算法将转向以算力换显存 — realSharonZhou · 2026-09-02
• DeepSeek Engram 架构被 Qwen/Longcat 采用省显存 — bookwormengr · 2026-09-02
• DeepSeek Engram 等创新：以 FLOPs 换 HBM 的推理优化 — bookwormengr · 2026-09-02