vLLM 表示 prime-rl 在 28 台 H200 上跑万亿级 agentic RL

vllm_project · x · 2026-07-23

vLLM 团队介绍，Prime Intellect 的 prime-rl 0.6.0 正在 vLLM 上跑“万亿级”的 agentic RL。方案里用了 FP8、宽专家并行、prefill/decode 解耦、KV cache offloading，以及 vllm-router 等推理侧优化。

这套系统被用于在 SWE 任务上训练 GLM-5，序列长度达到 131k，并且在 28 台 H200 节点上把单步训练压到 5 分钟以内。帖子还顺带预告了 vLLM Office Hours 的直播，会详细讲 prime-rl 的性能和 vLLM 0.25 的新变化。