NVIDIA 推出 Shadow Engine,LLM 故障恢复提速 39 倍

NVIDIAAI · x · 2026-08-26

NVIDIA 推出 Shadow Engine Recovery 预览功能,通过在 GPU 上维持一个完全初始化的备用引擎,利用 GPU Memory Service (GMS) 共享权重而不复制 HBM 数据,实现进程故障时的秒级接管。在 GLM-5.2 模型测试中,该技术将故障恢复时间从冷启动的 283 秒缩短至 7.3 秒,大幅提升了推理容量恢复速度及 SLA 合规性。

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →