仅 30 步 RL 模型大幅提升,作者惊讶未见平台期
stochasticchasm · x · 2026-09-22
作者 stochasticchasm 讨论某次 RL 训练:最令人惊讶的是模型仅经 30 步强化学习就取得巨大提升,远少于预期所需的步数。每步 batch size 极大——1568 个任务 × 16 个 rollout,因此整个 run 消耗了大量 token,但提升幅度仍超预期,且看不到平台期迹象,作者纳闷为何训练方没有继续训下去。
所属事件:小米 MiMo 疑似首个 1M 上下文 RL 训练，30 步即大幅提升(4 条相关)→
「研究」频道最新
- 数学家争论形式化证明新规：数学的「我们」由谁定义 — jessi_cata · 2026-09-22
- AI 数学证明该按什么标准?Lean ≠ ZFC,规则变更没经过投票 — jessi_cata · 2026-09-22
- 剑桥学者 David Krueger：四大根本问题未解，AI 安全不能指望限期攻关 — DavidSKrueger · 2026-09-22
- peano_ai 在 1000+ TPU 上对 310B 模型跑通全参数 RL 训练 — simonguozirui · 2026-09-22
- Eric Topol 撰文:AI 可在症状出现前数年精准识别阿尔茨海默高危人群 — EricTopol · 2026-09-22
- 讨论：RL 环境合成价值凸显，但方法本身不算新颖 — stochasticchasm · 2026-09-22