小米 MiMo 疑似首个 1M 上下文 RL 训练,Agent 裁判成新扩展轴
stochasticchasm · x · 2026-09-22
网友点评小米 MiMo 的技术架构("classic mimo architecture, simple and strong"),并指出两点值得关注:
- 这可能是业内首次在 100 万 token 上下文上做强化学习训练(作者自己也不确定,标注存疑);
- 大规模使用 agent 作为裁判(agent-as-a-judge) 是其亮点,其他中国实验室也在采用类似做法——这相当于在 RL 阶段开辟了除算力之外的另一条扩展轴,让奖励判定更稳健。
后续追问中作者猜测 "groupwise" 设置可能指每组一个 agent,从而形成对比式评分,但表示尚待确认。整体属于对训练方法的有根据推测与讨论,未获官方证实。
所属事件:小米 MiMo RL 训练细节引热议:疑似 1M 上下文、30 步即大幅提升(15 条相关)→
「研究」频道最新
- AI 管线扫描 Linux 内核发现 2386 个漏洞,170 个补丁已合入主线 — ycombinator · 2026-11-12
- CoRL 联合主席忆 2021 展区仅三张桌,对比 2026 规模感概行业巨变 — Ed__Johns · 2026-11-12
- 预训练原子模型筛选 1620 种组合,为单原子金属找稳定衬底 — bravo_abad · 2026-11-12
- Claude Fable 5.2 机器人实验被拿去吊打李飞飞 World Labs?作者称搞错了研究问题 — dotey · 2026-11-12
- Claude 数周产出 239 个形式化证明,验证 123 个开源库无崩溃 — kieranklaassen · 2026-11-12
- SynthICL:纯合成数据训练,单演示泛化 16 项真实操作任务 — Ed__Johns · 2026-11-12