Cornell 与阿里论文:独立 critic 审查是 Agent 验证的最佳性价比方案
Zhengxin Zhang · hf · 2026-10-28
论文 Rethinking Verification in Agent Harnesses(Cornell + 阿里巴巴,2026-10-25)系统研究了 agent harness 中的验证策略如何组织。
- 框架覆盖 agent 生命周期四层:初始指令、执行中提醒、完成门槛(completion gates)、独立审查(independent review)。
- 在 7 个前沿编码模型上对比 17 种设计,评测于 Terminal-Bench 与 SWE-bench Verified,并推出 VisualBench 用于视觉/交互产物评估。
- 结论:初始指令与执行中提醒收益有限且模型依赖性强,不显著增加 token;完成门槛收益更大但成本显著上升;独立 critic 审查性价比最优——TB 上提升 5.9–9.5 个百分点(成本仅 1.13–1.25×),SWE 上提升 3.9–6.6 个百分点(成本 1.00–1.04×);VisualBench 上净偏好超出基线 13.2–23.8 点。
对 test-time scaling 的工程设计有直接指导意义。
所属事件:阿里康奈尔论文:独立 critic 审查大幅提升编码 Agent 准确率(3 条相关)→
「编程与Agent」频道最新
- MCP 迈向事件推送:SEP-3415 Events 扩展 PR 提交,让 Agent 无需轮询即可响应 — braelyn_ai · 2026-10-28
- AMD 团队详解 warp-pipelining:Triton GEMM 在 MI300/350/450 上追平手写汇编 — xiaosun86 · 2026-10-28
- Agent harness 要被模型「吃掉」了?蒸馏实验显示通用脚手架正被训练进模型 — rseroter · 2026-10-28
- 实测 Berkeley Agents' Last Exam:单任务最多 400+ 步动作如何审核 — Fun-Government-8007 · 2026-10-28
- Sarah 简评:企业工作流自动化还停在『自动补全时代』 — saranormous · 2026-10-28
- Garry Tan 晒 Capy AI 编程工厂:常驻 10-20 个子代理,年贡献 19101 次 — garrytan · 2026-10-28