Engram 卸载到 DRAM 后 H200/B200 性能最高提升 50%
zephyr_z9 · x · 2026-09-21
SemiAnalysis 实验显示,将 Engram 卸载到 DRAM 可在 H200、B200、B300 乃至 GB300 NVL72 上带来最高 50% 的性能提升。其技术团队与 Pi 的工程师合作,还向 vLLM 上游提交了 ROCm 平台的 Engram DRAM 卸载支持(PR 57491),同样观察到最高 50% 的性能改善。SemiAnalysis 与 NVIDIA、AMD 正在多个 PR(985、1002、1005、1006)中更新默认推荐配置,改为启用 Engram 卸载。
「Infra」频道最新
- 语义缓存加共形风险控制,实测保证在线上失效 — Reasonable_Royal_621 · 2026-09-22
- 456GB 的 DeepSeek v4.1 本地跑出 40 tok/s,混合推理方案公开 — HankYeomans · 2026-09-22
- 开源项目 Agent Substrate:子秒级挂起恢复,大规模智能体运行时 — rakyll · 2026-09-22
- 阶跃 Step 5 Preview 评测 44 分,成本仅同级模型 1/2.8 — ArtificialAnlys · 2026-09-22
- SemiAnalysis 抢先拆解 A20:A20 基于 TSMC N2,封装内藏 DRAM — dylan522p · 2026-09-22
- Bernstein 英特尔调研:服务器芯片 2027 年前供不应求,真正考验在 2028 — BenBajarin · 2026-09-22