JoMoHa 同时 RL 训练模型与 Harness,ALFWorld 成功率达 97%
omarsar0 · x · 2026-11-13
Salesforce AI Research 与香港大学等提出 JoMoHa(Joint Model–Harness Optimization),首个用强化学习同时训练「可执行 harness 生成策略」与「任务执行策略」的框架,实现递归自改进(RSI)。
核心问题:语言 agent 的表现同时取决于模型权重与 harness(外围执行框架),单独优化任一方都会被另一方限制。朴素的交替更新会导致两者逐渐不兼容——性能先升后降,模型与 harness 脱节反而拖累任务执行。
关键做法:为两个策略保留各自独立的经验历史与价值估计,解决了交替训练的兼容性问题。
结果:
- 在 ALFWorld、WebShop、DBBench 上平均成功率 70.3%,超过只训权重(weight-only)和只训 harness(harness-only)两条基线
- ALFWorld 达 97.0%(对照 Frozen Engineer 90.5%、Weight-only 89.5%、Harness-only 80.5%),144 步训练曲线持续上升无退化
- 训练 harness 写手优于冻结不动
「编程与Agent」频道最新
- KubeCon 展台演示:三天从 50 个 Actor 扩到 1600 万 — rakyll · 2026-11-13
- MCP 服务器神秘修复之谜:是你的 Agent 在背后替你反馈 — zeeg · 2026-11-13
- MIT×Meta 论文 ReHarness:让 Agent 用后续结果回头修订旧记忆 — rohanpaul_ai · 2026-11-13
- Mnemos 入驻 Nous 插件市场:给 Claude Code/Codex 等配跨平台持久记忆 — RileyRalmuto · 2026-11-13
- AI 游戏平台实测数据:玩家厌恶加载屏,pop-in 版点击转化高得多 — TAbrodi · 2026-11-13
- 可视化贴图吐槽:每天与 agent 互相挫败的节奏曲线 — dbreunig · 2026-11-13