SkyRL 为 Beam 提供首日 RL 支持,LoRA 解码吞吐提升 62%

vllm_project · x · 2026-10-16

SkyRL 为 Beam 提供 Day-0 RL 支持:LoRA、BF16 全量微调和 MXFP8 RL,配合 vLLM rollout 和 Reflection 的 Megatron-Bridge 实现。

通过在 vLLM 中调整专家适配器尺寸(right-sizing expert adapters),LoRA 解码吞吐提升 62%:在 32 并发、PP2×TP8 下从 276 提升至 447 tok/s/GPU(解码指标,非端到端训练加速)。R3 支持流水线并行,权重同步期间保留 FP32 router 权重。配图还显示初始 DAPO 训练验证:AIME25 avg@8 从 61% 提升至 79%(50 步训练,LoRA 用 4×8-B200 节点,全量微调用 8×8-B200 节点)。