DeepSeek Engram 讨论：省 HBM 带宽比省存储更关键
bookwormengr · x · 2026-09-22
bookwormengr 在讨论 DeepSeek Engram 时指出：稀疏化依然存在（MoE、稀疏注意力 CSA），占比已达 90%；减少总存储有帮助，但更大的约束其实是带宽。DeepSeek 的所有设计（MoE 等）都在针对带宽而非存储做优化，因为带宽更贵；Engram 把 KV 压缩到极致，同时惠及存储和带宽。他还指出华为版 HBM 并非真正 HBM，更接近 LPDDR——扩展存储容易，带宽才是难点。zephyrz9 回应称华为 HiZQ 实为真 HBM（cHBM），并认同 DeepSeek 重点在于削减带宽需求。
所属事件:DeepSeek Engram 本质是语义检索，可省四成 HBM 需求(4 条相关)→
「Infra」频道最新
- 「Harness 定义基础设施」：agent 框架与基建正走向垂直整合 — HankYeomans · 2026-11-12
- CoreWeave 转向客户预付款和更短合同为 AI 扩张输血 — TechCrunch AI · 2026-11-12
- AI 烧钱与监管担忧发酵，10 月外资撤出亚洲股市近 500 亿美元 — nordicinst · 2026-11-12
- Bernstein 评数据中心可信管线：Meta 微软谷歌领衔，Kevin O'Leary 团队遭嘲讽 — aronchick · 2026-11-12
- Photoroom 用 SkyPilot 每周回收约 1000 小时闲置推理 GPU — skypilot_org · 2026-11-12
- 英国 AI 芯片公司 Fractile 融资 7.2 亿美元，跻身算力赛道头部 — TechCrunch AI · 2026-11-12