DeepSeek Engram 讨论:省 HBM 带宽比省存储更关键
bookwormengr · x · 2026-09-22
bookwormengr 在讨论 DeepSeek Engram 时指出:稀疏化依然存在(MoE、稀疏注意力 CSA),占比已达 90%;减少总存储有帮助,但更大的约束其实是带宽。DeepSeek 的所有设计(MoE 等)都在针对带宽而非存储做优化,因为带宽更贵;Engram 把 KV 压缩到极致,同时惠及存储和带宽。他还指出华为版 HBM 并非真正 HBM,更接近 LPDDR——扩展存储容易,带宽才是难点。zephyrz9 回应称华为 HiZQ 实为真 HBM(cHBM),并认同 DeepSeek 重点在于削减带宽需求。
所属事件:DeepSeek Engram 本质是语义检索,可省四成 HBM 需求(4 条相关)→
「Infra」频道最新
- exe.dev 走红开发者圈:SSH 即虚拟机,配 Shelley 编码 agent — davidcrawshaw · 2026-09-22
- NVIDIA 牵头三方会谈,Artificial Analysis 出任韩国主权 AI 独立评估方 — ArtificialAnlys · 2026-09-22
- Lisa Su 执掌 AMD 十余年:市值从 30 亿涨到 1 万亿美元 — xiaosun86 · 2026-09-22
- Claude Code 跨会话通信机制被拆解:一个 JSON 目录加 Unix socket — LeonKohli · 2026-09-22
- 估值 500 亿美元无人接盘,SB Energy 俄亥俄超大数据中心 IPO 推迟 — firstadopter · 2026-09-22
- 观点:尘埃落定时苹果芯片或承接大部分 AI 推理负载 — cpaik · 2026-09-22