小米 MiMo-V2.6 发布:1000+ TPU 上押注 RL 扩展
小米发布 MiMo-V2.6,这是其迄今最大规模的强化学习扩展尝试,覆盖编程、通用推理、视觉、自动化与网络安全。团队在 1000+ TPU 上对 310B 参数模型跑通全参数 RL 训练并稳定运行 1000+ 步,每步处理 27-37 亿 token。罗福莉发长文复盘,核心问题是预训练 Scaling Law 之后 RL 能否通过持续加大算力、任务与真实环境来 scale 能力——小米这半年基本在押注这件事。
已确认
- 论文主张显式扩展 RL 三要素:batch size 与吞吐、环境多样性、grader 算力。据 @DrSingularity 转述,每步 RL 训练处理约 1568 个样本、27-37 亿 token,上下文长度达 100 万 token。
- 小米 MiMo 团队披露基于 JAX+TPU 的大规模 RL 实践:在 1000+ TPU 上对 310B 参数的 MiMo-V2.6 完成全参数 RL 训练,并稳定运行 1000+ 步;扩大规模主要是改配置而非重写代码。
- @tokenbender 在长线程解读中指出,官方对大 batch 的论证主要停留在吞吐量与 GPU 扩展便利性角度。环境合成遵循数据合成的通用好原则:清晰的 spec、从丰富的真实世界场景池采样、精选优质种子任务并做接地(grounding),他评价这些原则虽无花活但不可妥协。论文 4.2.5 节采用多种 harness 训练,tokenbender 认为值得肯定,因为开源用户常自建适合自身任务的 harness。
- 论文讨论了 CodeMidas 的源码驱动合成方法。罗福莉发布长文复盘,提到单步生成 2.5 万条 Agent 轨迹等 RL 规模细节。
尚未确认
- 长程(long horizon)任务部分似乎主要靠 agent 驱动合成完成,tokenbender 对其效果存疑,表示有兴趣跟进验证。
为什么重要
- tokenbender 指出 MiMo 的任务不是从零造,而是从多样化来源接地构建,纯 self-play 不可替代;任务性质贴近日常工作流,他因此对 MiMo v2.6 替代 Sol 用于日常工作抱有期待。
- 在 JAX+TPU 上跑通 310B 全参数 RL 并能以改配置方式扩容,为开源社区提供了大规模 RL 训练的工程参考。
2026-09-22 ~ 2026-09-23 · 10 条相关
- 第 1 集:小米 MiMo RL 训练细节引热议:疑似 1M 上下文、30 步即大幅提升(2026-09-22,15 条)
- 第 2 集:小米 MiMo-V2.6 发布:1000+ TPU 上押注 RL 扩展(2026-09-22,10 条)
- 第 3 集:小米MoE强化学习稳定性论文:GRPO改造详解(2026-09-22,2 条)
一手来源
- 小米 MiMo-V2.6 单步 RL 处理 27-37 亿 token,剑指模型自我提升 — Dr_Singularity ·
- 小米 MiMo v2.6 发布:RL 三要素扩规模成最大亮点 — tokenbender ·
- 罗福莉复盘小米 MiMo-V2.6:单步生成 2.5 万条 Agent 轨迹 — bookwormengr ·
- peano_ai 在 1000+ TPU 上对 310B 模型跑通全参数 RL 训练 — simonguozirui · 2026-09-22
- 小米 MiMo 用 JAX+TPU 跑通 310B 全参数 RL,扩容只改配置 — AccBalanced · 2026-09-22
- 【源头】小米 MiMo v2.6 发布:RL 三要素扩规模成最大亮点 — tokenbender · 2026-09-22
- 线程整合帖:MiMo v2.6 环境扩展原则与 agent 驱动合成 — tokenbender · 2026-09-22
- CodeMidas 源码驱动合成与 agent 长程任务合成的看点 — tokenbender · 2026-09-22
- MiMo v2.6 环境合成:真实场景打底、多种 harness 并训 — tokenbender · 2026-09-22
- 开发者拆解论文:多 harness 训练与环境合成的核心原则 — tokenbender · 2026-09-22
- 【源头】罗福莉复盘小米 MiMo-V2.6:单步生成 2.5 万条 Agent 轨迹 — bookwormengr · 2026-09-22
- 【源头】小米 MiMo-V2.6 单步 RL 处理 27-37 亿 token,剑指模型自我提升 — Dr_Singularity · 2026-09-23
另有 1 条近重复转述:tokenbender