Harness-S:用兄弟 Harness 拯救失败 rollout 并蒸馏回单一策略
_akhaliq · x · 2026-11-06
论文 Harness-S: Learning from Sibling Harnesses 提出一种利用「兄弟 harness」的训练方法:
- 动机:agent rollout 失败常源于 harness(编排层)缺陷而非策略本身;不同 harness 变体各有互补强项。
- 做法:离线进化出一池 harness 变体(H₁…Hₙ),按失败根因定向修补;训练时当基础 harness H₀ 下所有 rollout 失败,用自适应 Harness Router 选出 Top-K 互补兄弟 harness 各跑一次 rollout,成功行为替换进 GRPO 更新。
- 效果:把这些救援行为蒸馏进单一策略后,该策略在回到原始 harness H₀ 时依然有效,还能与 Rank-1 harness 组合获得额外收益。
核心贡献是把「换个 harness 就能做成的事」变成策略本身的稳定能力。
所属事件:Harness-S:用兄弟 Harness 拯救失败 rollout 训练通用智能体(2 条相关)→
「编程与Agent」频道最新
- 开发者用 PlayAstrocade 做 AI 游戏上瘾:AI 擅长复刻,不擅创新 — andrey_kurenkov · 2026-11-07
- gemini-cli 修复 macOS PTY 主描述符泄漏 PR — ugorla-dev · 2026-11-07
- LFM2.5/CTM 等 Liquid 模型启动 LoRA RL 训练,主攻 agent 任务 — omarsar0 · 2026-11-07
- 一次清理砍掉 7500 行代码:CI 去重后成本降 40%、提速 15% — DanielLockyer · 2026-11-07
- PE 董事会视角复盘:砍掉工程师换 AI 的八步轮回,一年后才见效 — alex_verem · 2026-11-07
- Meta 研究员承认:模型未针对 Codex 调优,将改进 harness 随机化 — JoshPurtell · 2026-11-07