Agent 评测指标之争:该看 token 与轮次,还是只看钱和时间
围绕 agent 评测该用什么指标,社区展开讨论。xeophon 认为 token 数和轮次(turn)数是人为设定、难以测量且近乎无用的指标,真实世界的 agent 评测只应关注花费的金额和 wall clock 时间,Terminal-Bench 4.0 即设 8 小时上限而非限制轮次。但 @langstonnashold 提出反驳:评测成绩不应受基础设施影响,而 wall clock 会不公平地惩罚基建较差的部署,如共置 sandbox、低延迟模式和负载差异等。
2026-09-17 ~ 2026-09-17 · 3 条相关
- 评测成绩不该被基建绑架:turn 数难以定义成 agent 评测死结 — langstonnashold · 2026-09-17
- Agent 评测限时不设关卡:8 小时 wall clock 上限够用吗 — xeophon · 2026-09-17
- 「只看钱和时间」:tokens 与 turns 是无用的人造评测指标 — xeophon · 2026-09-17