Agent 改进值不值成本?固定 vs 可编辑 harness 对照实验法

krishnan · x · 2026-11-11

作者提出一个可操作的 agent 评测实验:同样的工作流与总预算,对比「固定 harness」与「可编辑 harness」两个版本,冻结后在未见过的隐藏样例上打分,按「每美元被采纳结果数」计账(含改进运行的开销),并重跑旧样例查回归。核心观点:改写 prompt 很便宜,判断改进是否值得保留才是产品本身——如果收益消失,说明循环只是学会了做题。

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →