RuHarness 让评估 rubric 与 harness 共同进化,held-out 任务领先基线 4.5 分

dair_ai · x · 2026-10-30

dair-ai 介绍了自我改进 harness 方向的新工作 RuHarness。作者指出现有 harness 进化方法的一个关键缺陷:只进化 harness,但指导每次修改的标准(criterion)固定不变,几轮之后就不再匹配 agent 的真实弱点,改进随之停滞。

RuHarness 的做法是把 rubric 和 harness 一起进化:每轮从轨迹中挖掘行为标准、重新打分,把 harness 的修改对准当前最相关的未解决弱点;不再触发的标准进入休眠,弱点复现时再激活。

实验结果:用 Qwen3.5-35B-A3B 在 held-out 任务上比最强 harness-evolution 基线高 4.5 分,GLM-4.7-Flash 高 5.3 分。核心启示:如果你的 harness 进化几轮后不再提升,该更新的是 critic 本身。

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →