vLLM 的 RL 训练上了AMD ROCm
vllm_project · x · 2026-07-14
vLLM 团队宣布，vLLM 生态里的 RL post-training 框架 **vime** 现在已能在 **AMD Instinct MI355X** GPU 上原生运行端到端 RL 后训练。 要点： - vime 以 vLLM 作为 rollout backend，因此在 ROCm 上可以直接继承完整的 vLLM rollout 栈，不需要单独维护一套代码路径。 - AMD 团队已验证端到端流水线，并把 ROCm 相关修复 upstream。 - 还提供了预编译容器，减少从源码构建的成本。 - 目前可用能力包括：GRPO 训练、co-located / async（非 co-located）train-rollout、Megatron-LM 训练 + vLLM rollout 后端，以及 Qwen3 dense 和 MoE 模型。 性能上，MI355X 上的 Qwen3-8B 约能达到 **4,100 tokens/gpu/s**，且 train-rollout 的 logprob 差异保持低而稳定。