vLLM 联手 SkyRL 实现 Mistral Large 4 Day-0 强化学习，8 节点 GB200 上 AIME 从 64% 提到 75%
vllm_project · x · 2026-10-30
vLLM 项目宣布为 Mistral Large 4 提供 Day-0 RL 支持，与 NovaSky 的 SkyRL 合作完成：在 8 个 NVIDIA GB200 节点上，对 NVFP4 checkpoint 做 rank-32 LoRA 强化学习，75 步训练就把 AIME 2024 avg@8 从约 64% 提升到约 75%。
技术配方要点:
- vLLM 负责生成 rollout，FSDP2 或 Megatron 负责训练
- NVFP4 量化感知训练 + FP8 KV-cache 模拟
- routing replay (R3) 与 token-level 截断重要性采样
- FSDP2 运行中 trainer–vLLM 的 logprob 平均绝对差维持在约 0.02–0.026，Megatron 以相近差距达到类似精度
「Infra」频道最新
- Wafer 日处理 token 达 2 万亿，从 1 万亿翻倍仅用 4 天 — ycombinator · 2026-10-30
- Databricks 副总裁:Claude Code 只是开始,AI 软件工厂需新基建 — FinanceYF5 · 2026-10-30
- IBM/康奈尔 LPT:跨循环共享 KV 缓存,内存省 79% 困惑度反降 — burny_tech · 2026-10-30
- Rust 自托管 Git 平台让编码 Agent 拥有独立账号与最小权限令牌 — Barmazoid · 2026-10-30
- 8GB 笔记本 RTX 4070 跑 WanGP,19 秒视频渲染要 43 小时 — Pnarpok · 2026-10-30
- 2 卡 1600W、4 卡 3000W：本地多 GPU 供电清单先查电箱 — dee_hw · 2026-10-30