腾讯混元研究:扩大批次可显著加速 LLM 强化学习

腾讯混元团队发布新研究,将经典的临界 batch size 理论扩展到在线 LLM 强化学习场景——模型自产训练数据,rollout 生成与训练的扩展规律不同步。核心结论是:更大的 batch 可以缩短达到目标性能的时间,前提是硬件吞吐收益超过样本效率损失。实验显示 GRPO 训练提速 29%,PPO 训练吞吐最高提升至 2.29 倍。

2026-09-24 ~ 2026-09-25 · 3 条相关