Engram 本质是语义检索系统:收益在 HBM 存储与带宽双省
teortaxesTex · x · 2026-09-22
teortaxesTx 与 bookwormengr 讨论 DeepSeek Engram:bookwormengr 解释 Engram/N-gram 并非计算系统,而是「语义(embedding)的检索系统」;它未必能取代大部分模型参数,但真正收益不止在 HBM 存储(省 40-50%),更在 HBM 带宽——那是更昂贵的资源。teortaxesTx 认为行业普遍希望把稀疏记忆大幅扩展到总参数量的 80%,但在这种「贫瘠却高效」的表示上很难做到。
所属事件:DeepSeek Engram 本质是语义检索,可省四成 HBM 需求(4 条相关)→
「Infra」频道最新
- 「Harness 定义基础设施」:agent 框架与基建正走向垂直整合 — HankYeomans · 2026-11-12
- CoreWeave 转向客户预付款和更短合同为 AI 扩张输血 — TechCrunch AI · 2026-11-12
- AI 烧钱与监管担忧发酵,10 月外资撤出亚洲股市近 500 亿美元 — nordicinst · 2026-11-12
- Bernstein 评数据中心可信管线:Meta 微软谷歌领衔,Kevin O'Leary 团队遭嘲讽 — aronchick · 2026-11-12
- Photoroom 用 SkyPilot 每周回收约 1000 小时闲置推理 GPU — skypilot_org · 2026-11-12
- 英国 AI 芯片公司 Fractile 融资 7.2 亿美元,跻身算力赛道头部 — TechCrunch AI · 2026-11-12