NVIDIA 称用 ModelExpress 将 DeepSeek-V4 Pro 启动压到 2 分钟内
NVIDIAAI · x · 2026-07-25
NVIDIA 表示，它通过把模型权重走 GPU-to-GPU RDMA 的最快路径送进显存，把 DeepSeek-V4 Pro 的启动时间从 8 分钟 压到 2 分钟以内。
- 这套方案来自 NVIDIA ModelExpress（MX），它是 NVIDIA Dynamo 里的权重分发与缓存管理服务。
- MX 会复用 kernel cache，并让推理 worker 通过 NIXL 直接从其他 GPU 拉取更新后的权重，避免中心化广播。
- NVIDIA 还称，这种做法同样能加速 inference 和 RL 后训练，因为权重迁移不再卡住关键路径。
所属事件:NVIDIA ModelExpress 将 DeepSeek 启动压至两分钟(2 条相关)→
「Infra」频道最新
- Hermes Agent 给 Docker 沙箱加了凭证防火墙 — NousResearch · 2026-07-25
- Moonshot 开源权重 Kimi K3 逼近美国顶级模型，改写 AI 经济 — OmarUFlorez · 2026-07-25
- 摩根士丹利预计大科技资本开支 2027 年将达 1.16 万亿 — Beth_Kindig · 2026-07-25
- Marcus 称 AI 交易承压，CRWV 和 ORCL 明显回落 — GaryMarcus · 2026-07-25
- CachyLLama 分支大幅减少长会话重复 prompt 处理 — UsualResult · 2026-07-25
- GPT-5.6 智能体协作 40 小时，将 Kimi K3 类模型推理提速至 406 tok/s — nicodotdev · 2026-07-25