SWE-Bench Pro 被吐槽:11 个 repo 却有 731 个任务

ZainHasan6 · x · 2026-07-22

一条拿 SWE-Bench Pro 开涮的帖子,配图直接给出基准分布:11 个 repo、731 个任务,其中 top repo 占 13.1%,top 5 repo 占 58.4%,有效 repo 只有 10 个。

作者借这个图吐槽该基准的代表性,意思是:如果认真读数据,对它的信任度应该远低于很多人的默认印象。

所属事件:SWE-Bench Pro基准测试因仓库过少遭质疑(2 条相关)→

原文链接 →

「Fun」频道最新

更多「Fun」频道 AI 资讯 →