异步 GRPO 训练细节：部分模型未跑完整个数据混合
yb2698 · x · 2026-11-09
作者披露其训练设置（固定步数 + 异步 GRPO）导致并非所有训练都覆盖完整数据混合，并列出各模型实际见到的任务范围：
- LFM2.5-24B-A2B：435–1,212 个任务，覆盖 SmolDataEnvs 与 traj2envs 两个数据集（pi 与 opencode 多次遍历）
- LFM3-1.7B：474–1,288，部分触及 traj2envs
- TwIL-8B：116–159，仅 SmolDataEnvs
原因在于每步只训练能塞进 token 预算的已完成 rollout，长 rollout（TwIL 的长推理、hermes harness）使每步任务数变少，而任务按固定顺序执行，因此部分训练始终没跑到 traj2envs。
「研究」频道最新
- Apple HALO 机器人:纯仿真训练,零真实家庭样本现实成功率 91% — heyshrutimishra · 2026-11-10
- 苹果 HALO 机器人：仿真造千栋虚拟房屋，真实家庭成功率 91% — heyshrutimishra · 2026-11-10
- RoboMoCap 发布:200 小时第一视角×光学动捕人形机器人数据集 — DJiafei · 2026-11-09
- PostTrainBench v1.2 放榜:Gemini 4 Argon 得 40.4% 排第 5,Muse Wonder 24.2% 列第 17 — maksym_andr · 2026-11-09
- SPDMX 音乐数据集发布:25.4 万曲、49 万 stems、CC BY 4.0 开源 — umpedronosapato · 2026-11-09
- MathArena 新增 BrokenArXiv:强模型逐月回退,GPT-6.1 Sol 仍居首 — teortaxesTex · 2026-11-09