腾讯混元研究:扩大批次可显著加速 LLM 强化学习
腾讯混元团队发布新研究,将经典的临界 batch size 理论扩展到在线 LLM 强化学习场景——模型自产训练数据,rollout 生成与训练的扩展规律不同步。核心结论是:更大的 batch 可以缩短达到目标性能的时间,前提是硬件吞吐收益超过样本效率损失。实验显示 GRPO 训练提速 29%,PPO 训练吞吐最高提升至 2.29 倍。
2026-09-24 ~ 2026-09-25 · 3 条相关
- 腾讯混元扩展 critical-batch-size 理论:GRPO 训练提速 29%,PPO 生成吞吐达 2.29× — TencentHunyuan · 2026-09-24
- 混元研究:调学习率扩大 batch size,PPO 训练吞吐提升至 2.29 倍 — TencentHunyuan · 2026-09-24
- 腾讯研究:大批次可加速 LLM 强化学习,关键在吞吐收益盖过样本效率损失 — CurieuxExplorer · 2026-09-25