混元研究:调学习率扩大 batch size,PPO 训练吞吐提升至 2.29 倍
TencentHunyuan · x · 2026-09-24
腾讯混元新研究把经典的临界 batch size 理论扩展到在线 LLM RL(模型自产训练数据、rollout 生成与训练规模不同步)。结论:
- 在 GRPO 与 PPO 上,重新调整学习率可在有界 batch size 范围内保持每个响应的学习量
- 固定硬件下扩大 batch size,PPO 生成阶段吞吐最高提升 2.29 倍
- 最优 GRPO 配置达到相同验证目标只需少 29% 的时间
对大规模 RL 训练的算力效率有直接参考价值。
所属事件:腾讯混元研究：扩大批次可显著加速 LLM 强化学习(3 条相关)→
「Infra」频道最新
- Starlink 美国城市用户增速 73% 反超农村，上传速度提升 42% — XFreeze · 2026-11-11
- Cloudflare 采用未经实战的共识算法 QuePaxa,替代 Raft/Paxos 建 Meerkat — sull · 2026-11-11
- 用 AI 扫遍全美废弃商场，改造成数据中心的脑洞 — LinusEkenstam · 2026-11-11
- Anthropic S-1 曝 260 亿美元私募：七大供应商按 IPO 价入股 — demian_ai · 2026-11-11
- AMD 10Q 披露收购 Taalas 花费 29 亿美元,将 LLM 权重烧进硬件 — deedydas · 2026-11-11
- SpaceXSI 1.2GW 燃气电厂获密西西比州环保许可,为 Colossus II 供能 — XFreeze · 2026-11-11