Bug Hunt Bench 实测 105 个真实 bug,GPT-6 三轮全胜碾压对手
PawelHuryn · x · 2026-10-27
开发者 Pawel Huryn 发布 Bug Hunt Bench:从两个生产级仓库中提取 105 个真实 bug,让 GPT-6、Claude、Grok、Gemini、DeepSeek 等前沿模型在各自的 CLI 环境中找 bug 并修复,采用盲评打分,排行榜和全部证据公开在 GitHub。
各推理档位单次得分(三轮):
- max:34 / 42 / 46
- xhigh:11 / 9 / 14
- high:11 / 8 / 10
- medium:8 / 6 / 8
- low:7 / 5 / 6
max 档位得分约为其他档位的 3-5 倍,差距悬殊。作者开源了完整数据,可直接指给自己的 agent 复现评测。
「编程与Agent」频道最新
- 用 Ling-3.1-flash 一句话生成可环绕缩放的 3D 体素城市界面 — Mrs-Grumpy23 · 2026-10-27
- 技术设计评审正在消失?AI 时代架构把关仍不可或缺 — Suspicious_Orchid770 · 2026-10-27
- 独立开发者用 Claude Opus 等工具做出浏览器 3D 赛车游戏 — MacXou34 · 2026-10-27
- Compound Engineering 3.33.0 发布:PR 工作流升级,专治 agent 越界 — kieranklaassen · 2026-10-27
- Lovable 月调 7536 亿次 Workers,从 Next.js 迁至 TanStack Start — ritakozlov · 2026-10-27
- Harness Lens 收录 30 个开源编码 Harness,现已开放提交 — yb2698 · 2026-10-27