CoreWeave 推出 RL Rollouts：热加载新权重，比重新部署快约 15 倍
_ScottCondron · x · 2026-10-07
CoreWeave 发布 RL Rollouts（预览版），解决 RL 训练中「推理即训练环节」的权重更新痛点：过去每个 checkpoint 都要重新部署推理服务，训练器只能干等。
要点：
- 只传输权重增量（远小于全量权重），并在不重启推理进程、不影响在途请求的情况下就地热加载新权重，官方称比重新部署快约 15 倍。
- 基于 NVIDIA Dynamo 与 vLLM 的 dynamo-vllm 引擎实现，通过 Dedicated Inference API 提供。
- 实际案例：NVIDIA 和 You.com 用它对 Nemotron 3.5 Lightning 做后训练以改进网页搜索，BrowseComp 准确率从 36.97% 提到 45.45%，同时工具调用减少 30.24%。
- 配套发布了 Model Distillation 和可编程训练 API，把生产信号接回下一版模型。
所属事件:CoreWeave 推出 RL Rollouts，权重热加载比重新部署快约 15 倍(2 条相关)→
「Infra」频道最新
- Ai2 发布 Olmo-core MoE 高效训练技术报告，TLDR 干货密集 — StasBekman · 2026-10-07
- macOS SDK 27 移除沙箱 API,OpenSSH 不再支持 sshd 沙箱 — jedisct1 · 2026-10-07
- 英伟达等四芯片巨头市值合计达9.8万亿美元,三年增长近5倍 — Beth_Kindig · 2026-10-07
- Cloud Run 隐藏 60% 扩缩容阈值开放自定义，已正式 GA — rseroter · 2026-10-07
- MIT Lincoln 实验室追踪 120+ 款 AI 加速器,绘制硬件演进图谱 — nordicinst · 2026-10-07
- K8 推出 2.5 亿美元预付款融资：AI 公司算力合同订金可借钱付 — Saul_Loveman · 2026-10-07