Engram 本质是语义检索系统:收益在 HBM 存储与带宽双省

teortaxesTex · x · 2026-09-22

teortaxesTx 与 bookwormengr 讨论 DeepSeek Engram:bookwormengr 解释 Engram/N-gram 并非计算系统,而是「语义(embedding)的检索系统」;它未必能取代大部分模型参数,但真正收益不止在 HBM 存储(省 40-50%),更在 HBM 带宽——那是更昂贵的资源。teortaxesTx 认为行业普遍希望把稀疏记忆大幅扩展到总参数量的 80%,但在这种「贫瘠却高效」的表示上很难做到。

所属事件:DeepSeek Engram 本质是语义检索,可省四成 HBM 需求(4 条相关)→

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →