Muon 在 GiGPO 中几乎将智能体 RL 成功率翻倍
rohanpaul_ai · x · 2026-07-22
Muon 在智能体强化学习里不是“天然有效”，而是高度依赖训练设定。
- 论文把 vanilla Muon 和 AdamW 放在稀疏奖励的 agentic RL 场景里做对比，使用的是单种子匹配实验。
- 在 GiGPO 设定下，Muon 将后期窗口验证成功率从 0.290 提升到 0.546，相对提升超过 88%。
- 作者进一步发现，效果取决于优势估计器和学习率：在 3×10^-5 时，Muon 让 GRPO 从 0.161 升到 0.268；而在 10^-5 时，GraphGPO 的后期表现接近饱和，Muon 的优势变小。
- 结论是：优化器不能脱离 RL 训练结构单独评价，credit assignment 和学习率可能决定它到底是加分还是翻车。
「研究」频道最新
- EMNLP Oral 论文：免训练 KV 缓存驱逐实现 10 倍内存压缩 — yuz9yuz · 2026-10-27
- ICML 2026立场论文:别把中间token叫「思考轨迹」 — rao2z · 2026-10-27
- forking 收官：probe gap 随上下文频率呈幂律，掩蔽低频 n-gram 可缩小差距 — ZimingLiu11 · 2026-10-27
- 「forking」机制拆解：n-gram 表把 logits 切成互不干扰的子空间 — ZimingLiu11 · 2026-10-27
- 被称最佳 LoRA 讲解视频：从几何直觉讲到任务内在维度 — sophiamyang · 2026-10-27
- 不改一个权重，机器人精度任务从 0/10 提到 9/10 — hbouammar · 2026-10-27