SemiAnalysis 实测 Engram DRAM offloading 性能提升最高 50%
bookwormengr · x · 2026-09-23
SemiAnalysis 发布了对 DeepSeek 提出的 Engram 技术的实测与技术分析，指出把 Engram 卸载到 DRAM 后，在 H200、B200、B300 甚至 GB300 NVL72 上性能最多可提升 50%。
关键信息：
- Engram 是 DeepSeek 为减少对 HBM 依赖、更多利用 DRAM/LPDDR 而做的设计。
- SemiAnalysis 团队与 NVIDIA、AMD 的工程师协作，把 Engram 的 ROCm DRAM offloading 支持上游进了 vLLM（PR 57491），同样实测到最高 50% 的性能提升。
- 相应地，NVIDIA、AMD 与 SemiAnalysis 正通过多个 PR（985、1002、1005、1006）更新默认推荐配置，改用 Engram offloading。
发帖人评价 SemiAnalysis「新闻报道层面一流，但作为前瞻分析师总是慢半拍」，认为它对 Engram 的关注来得太晚。
所属事件:SemiAnalysis 实测 Engram 卸载 DRAM 性能最高提升 50%(2 条相关)→
「Infra」频道最新
- 「Harness 定义基础设施」：agent 框架与基建正走向垂直整合 — HankYeomans · 2026-11-12
- CoreWeave 转向客户预付款和更短合同为 AI 扩张输血 — TechCrunch AI · 2026-11-12
- AI 烧钱与监管担忧发酵，10 月外资撤出亚洲股市近 500 亿美元 — nordicinst · 2026-11-12
- Bernstein 评数据中心可信管线：Meta 微软谷歌领衔，Kevin O'Leary 团队遭嘲讽 — aronchick · 2026-11-12
- Photoroom 用 SkyPilot 每周回收约 1000 小时闲置推理 GPU — skypilot_org · 2026-11-12
- 英国 AI 芯片公司 Fractile 融资 7.2 亿美元，跻身算力赛道头部 — TechCrunch AI · 2026-11-12