NVIDIA 推出 Shadow Engine,LLM 故障恢复提速 39 倍
NVIDIAAI · x · 2026-08-26
NVIDIA 推出 Shadow Engine Recovery 预览功能,通过在 GPU 上维持一个完全初始化的备用引擎,利用 GPU Memory Service (GMS) 共享权重而不复制 HBM 数据,实现进程故障时的秒级接管。在 GLM-5.2 模型测试中,该技术将故障恢复时间从冷启动的 283 秒缩短至 7.3 秒,大幅提升了推理容量恢复速度及 SLA 合规性。
「Infra」频道最新
- EVE Online 启动迁移:240 万行代码升级 Python 3 — Simon Willison · 2026-08-26
- IBM Granite 模型加载后显存占用激增至 27GB — x8code · 2026-08-26
- 硬核玩家建地下数据中心,只为加热室外按摩浴缸 — curious_vii · 2026-08-26
- 超微与思科联手,为英伟达提供全栈液冷方案 — charlesliang · 2026-08-26
- Cerebras CA-6 3D 堆叠晶圆级 DRAM — beffjezos · 2026-08-26
- M5 Ultra 对比 DGX Spark:本地算力新选择 — nickbaumann_ · 2026-08-26