Muon 在 GiGPO 中几乎将智能体 RL 成功率翻倍
rohanpaul_ai · x · 2026-07-22
Muon 在智能体强化学习里不是“天然有效”,而是高度依赖训练设定。
- 论文把 vanilla Muon 和 AdamW 放在稀疏奖励的 agentic RL 场景里做对比,使用的是单种子匹配实验。
- 在 GiGPO 设定下,Muon 将后期窗口验证成功率从 0.290 提升到 0.546,相对提升超过 88%。
- 作者进一步发现,效果取决于优势估计器和学习率:在 3×10^-5 时,Muon 让 GRPO 从 0.161 升到 0.268;而在 10^-5 时,GraphGPO 的后期表现接近饱和,Muon 的优势变小。
- 结论是:优化器不能脱离 RL 训练结构单独评价,credit assignment 和学习率可能决定它到底是加分还是翻车。
「研究」频道最新
- Cognition SWE-2 用 KKT 对偶优化长度惩罚,一次 RL 推移 Pareto 曲线 — YouJiacheng · 2026-09-11
- VidMap 用 RoMa 粗匹配全帧、精细匹配仅限关键帧 — ducha_aiki · 2026-09-11
- Bug Hunt Bench 作者补充:榜单噪声幅度约 2-3 分 — PawelHuryn · 2026-09-11
- 台球计算模型登 PNAS:二维系统已存在不可判定性,可跑通用计算机 — eigensteve · 2026-09-11
- 新研究:从仿射变换与重力线索求解绝对位姿 — ducha_aiki · 2026-09-11
- LoMa 论文发布 REALLY HardPairs 数据集,入选 ECCV 2026 — ducha_aiki · 2026-09-11