Engram 卸载到 DRAM 后 H200/B200 性能最高提升 50%
zephyr_z9 · x · 2026-09-21
SemiAnalysis 实验显示,将 Engram 卸载到 DRAM 可在 H200、B200、B300 乃至 GB300 NVL72 上带来最高 50% 的性能提升。其技术团队与 Pi 的工程师合作,还向 vLLM 上游提交了 ROCm 平台的 Engram DRAM 卸载支持(PR 57491),同样观察到最高 50% 的性能改善。SemiAnalysis 与 NVIDIA、AMD 正在多个 PR(985、1002、1005、1006)中更新默认推荐配置,改为启用 Engram 卸载。
所属事件:SemiAnalysis 实测 Engram 卸载 DRAM 性能最高提升 50%(2 条相关)→
「Infra」频道最新
- 独立开发者用 Rust 写整套 AI OS：无头运行，跑 Qwen3 27b 比 Ubuntu 快 — W61k3r · 2026-11-12
- AMD 与 Dell 拿下 182 项世界纪录，EPYC 性能提升 94% — AccBalanced · 2026-11-12
- KubeCon 主题演讲：计算系统正从人类速度转向 Agent 速度 — HowDevelop · 2026-11-12
- 曝 Meta 基础设施负责人 Santosh Janardhan 将于 2027 年初离职 — dinabass · 2026-11-12
- 华为开源量化工具 MACaQ：KL 散度比 Unsloth 低 23% — acluk90 · 2026-11-12
- dhh 发布 Omarchy 4.6：Tailscale 内共享本地 AI 模型推理 — alexcovo_eth · 2026-11-12