vLLM 为 Reflection Beam 提供 Day-0 RL 支持,LoRA 解码吞吐提升 62%
vllm_project · x · 2026-10-16
vLLM 项目宣布与 SkyRL 合作为 Reflection 的 Beam 模型提供 Day-0 强化学习支持,涵盖 LoRA、BF16 全量微调与 MXFP8 RL,使用 vLLM rollout 和 Reflection 的 Megatron-Bridge 实现。通过在 vLLM 中合理设置 expert adapter 尺寸,LoRA 解码吞吐从 276 提升至 447 tok/s/GPU(+62%,32 并发、PP2×TP8,仅解码指标)。图示还给出初步 DPPO 验证:AIME25 avg@8 从 61% 提到 79%(50 步训练,LoRA 用 4×8-B200,全量微调用 8×8-B200)。R3 支持流水线并行,权重同步期间保留 FP32 router 权重。
所属事件:vLLM 为 Reflection Beam 提供首日支持与全套优化(10 条相关)→
「编程与Agent」频道最新
- Jim Fan 团队开源 ASPIRE 机器人框架,换用 Astra 后基准一夜刷到 99% — DrJimFan · 2026-10-17
- 实测证实 AI 助手 Instinct 经 Exa 抓取网页，请求带签名可溯源 — gaganghotra_ · 2026-10-17
- 四个 Gemini 4 Argon 智能体 27 小时通关 Minecraft,自写 2783 个程序 — GoogleDeepMind · 2026-10-17
- 让 Agent 自己加 trace 排查 CLI 慢在哪,一图看尽 76 个 span — DanielLockyer · 2026-10-17
- 独立开发者开源 Chrome 控制 MCP，支持 Codex 与 Claude Code — Swimming_Ask3859 · 2026-10-17
- OpenCode 免费提供 Claude Opus 4.5「极速打字」 — andrew_n_carr · 2026-10-17