两个 Agent 都说做完了仍可能出错:验收标准谁来写是关键

krishnan · x · 2026-11-09

Krish Subramanian 讨论 long-running agent 应用的评测陷阱:两个 agent 一致认为任务完成,交付的产品仍可能不对——独立的 evaluator 有用,但不自动等于独立的事实来源。

他引用 Anthropic 3 月 24 日的工程文章(long-running 应用的 harness 设计):每个 sprint 前,generator 和 evaluator 先就「要构建什么、如何检验成功」谈判出一份契约,evaluator 再用 Playwright 驱动运行中的应用验证。他认为这个顺序是对的,真正的坑在于谁来写验收标准。

虚构示例:客户要求导出全部记录,builder 提议一个下载按钮,evaluator 确认点击能产出有效文件,双方都通过——但导出悄悄漏掉了归档记录。实现符合约定,约定本身漏了需求。结论:先就可观察行为达成一致,测试产品本身,而不是 builder 对产品的描述。

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →