DeepSeek Engram 讨论:省 HBM 带宽比省存储更关键

bookwormengr · x · 2026-09-22

bookwormengr 在讨论 DeepSeek Engram 时指出:稀疏化依然存在(MoE、稀疏注意力 CSA),占比已达 90%;减少总存储有帮助,但更大的约束其实是带宽。DeepSeek 的所有设计(MoE 等)都在针对带宽而非存储做优化,因为带宽更贵;Engram 把 KV 压缩到极致,同时惠及存储和带宽。他还指出华为版 HBM 并非真正 HBM,更接近 LPDDR——扩展存储容易,带宽才是难点。zephyrz9 回应称华为 HiZQ 实为真 HBM(cHBM),并认同 DeepSeek 重点在于削减带宽需求。

所属事件:DeepSeek Engram 本质是语义检索,可省四成 HBM 需求(4 条相关)→

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →