同一 harness 两份榜单排名完全颠倒,agent 评测乱象引热议

lunwang1996 · x · 2026-10-30

paradite 指出 TB4 事件愈发离谱:vals ai 和 AA 两家都用 mini-swe-agent harness 测试同一批模型,排名却完全相反——

lunwang1996 评论称,他不认为 Google DeepMind 在故意「做」benchmark,而是 agent 作为极复杂系统,不逐条翻样例、花一整天去挖,根本说不清你实际在评测什么。这轮争议的核心是:agent 评测结果对 harness 配置高度敏感,跨榜单比较几乎不可靠。

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →