Engram 本质是语义检索系统:收益在 HBM 存储与带宽双省
teortaxesTex · x · 2026-09-22
teortaxesTx 与 bookwormengr 讨论 DeepSeek Engram:bookwormengr 解释 Engram/N-gram 并非计算系统,而是「语义(embedding)的检索系统」;它未必能取代大部分模型参数,但真正收益不止在 HBM 存储(省 40-50%),更在 HBM 带宽——那是更昂贵的资源。teortaxesTx 认为行业普遍希望把稀疏记忆大幅扩展到总参数量的 80%,但在这种「贫瘠却高效」的表示上很难做到。
所属事件:DeepSeek Engram 本质是语义检索,可省四成 HBM 需求(4 条相关)→
「Infra」频道最新
- exe.dev 走红开发者圈:SSH 即虚拟机,配 Shelley 编码 agent — davidcrawshaw · 2026-09-22
- NVIDIA 牵头三方会谈,Artificial Analysis 出任韩国主权 AI 独立评估方 — ArtificialAnlys · 2026-09-22
- Lisa Su 执掌 AMD 十余年:市值从 30 亿涨到 1 万亿美元 — xiaosun86 · 2026-09-22
- Claude Code 跨会话通信机制被拆解:一个 JSON 目录加 Unix socket — LeonKohli · 2026-09-22
- 估值 500 亿美元无人接盘,SB Energy 俄亥俄超大数据中心 IPO 推迟 — firstadopter · 2026-09-22
- 观点:尘埃落定时苹果芯片或承接大部分 AI 推理负载 — cpaik · 2026-09-22