Agent 基准实测:最快的两个模型 12 项任务全部完不成

ML_Felix · reddit · 2026-10-15

Concourse Bench v1(作者就职于发布方)在模拟媒体采买的 Agent 基准上发现:速度与任务完成度可能完全负相关。Agent 拿到 brief 和预算后要与三家固定规则的卖方谈判并达成一组满足要求的交易,买家 harness 逐动作校验,测的是「模型+harness」整体。

公开数据(平均每单耗时 / 12 单完成数):

最快的两个模型「快」是因为提前放弃了任务;但最慢的也不是最优——Sol 以不到 4 分钟的平均耗时全量完成。作者抛出的问题:评估 Agent 到底该看速度、完成率,还是每个完成任务的成本?

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →