Bug Hunt Bench 实测:GPT-6 Astra 拿 45 分,Grok 4.7 仅 28.7
PawelHuryn · x · 2026-09-22
Pawel Huryn(The Product Compass 作者)在两个真实代码仓库中植入 105 个 bug,测试各前沿模型“找并修复”的能力,并上线了独立评测站 Bug Hunt Bench(bughunt.productcompass.pm)。三轮平均成绩:GPT-6 Astra (max) 45 分,Muse Spark 1.3 (max) 32.2,Grok 4.7 (xhigh) 与 Grok 4.6 (xhigh) 均为 28.7(作者强调非笔误),Opus 5 (max) 27,Qwen3.8-Max 25.7。作者直言“这不是我们一直在等的那个模型”。评测站为盲评、每仓库单提示词,支持按分数/成本/耗时排序,成本轴为对数(各模型成本相差约两百倍),每个 run 的完整注意事项发布在 GitHub。
所属事件:Bug Hunt Bench 实测:GPT-6 登顶,MiMo 性价比惊艳(18 条相关)→
「编程与Agent」频道最新
- Plurai 发布 Agent 仿真测试插件:数字孪生让 Agent 先在虚拟世界翻车 — nikola_mr64990 · 2026-11-12
- Agent 说「Done」不等于真做完:Plurai 仿真核验实际行为 — nikola_mr64990 · 2026-11-12
- LlamaIndex 让 AI Agent 渗透测试自家 LlamaParse,四天暴露四条经验 — llama_index · 2026-11-12
- Manhattan 字体 v0.0.1:每个字母都是一个 Python 函数 — allanyu_ · 2026-11-12
- 用 Backplane「提示词造出」任意扩展卡,网友呼吁扩展口回归标配 — _Stocko_ · 2026-11-12
- Agent 会话跑了 51 分钟烧 24.8 万 token,网友直呼还在干活 — _Stocko_ · 2026-11-12