多模型找 Bug 评测:谁最会修代码
PawelHuryn · x · 2026-07-19
作者在自己的 VS Code 扩展仓库 grok-build 里埋了 45 个 bug,用五个模型在各自原生 harness、同一提示词、高 effort 条件下做找错与修复测试。
结果显示:
- GPT-5.6 Sol 找到 13 个隐藏 bug,外加 9 个仓库里本来就存在的真实 bug,还新增了 7 个测试;作者认为它更像“追踪 bug 的疯子”,执行力最强。
- Fable 5 诊断最锋利,但成本最高,约 $36;更适合做判断,不一定最适合直接执行。
- Grok 4.5 性价比最好,约 $6,速度快,还会在未提示时自行生成子 agent,适合常规工作。
- Kimi K3 很慢,修 4 个 bug 花了 62 分钟,但全都修对了,适合夜间跑。
- Opus 4.8 只确认并报告自己完全验证过的内容,比较保守。
作者建议的组合是:Fable 5 做判题/审查,GPT-5.6 Sol 负责执行;若追求性价比,则用 Grok 4.5 单独跑,卡住时再用 Fable 或 Sol 辅助。最终有 27/45 个 bug 逃过了所有模型。
「编程与Agent」频道最新
- 受 OpenAI 万机群启发,开发者开源 agent 众包解题平台 — Benjaminsen · 2026-09-11
- 开源 Mac 应用 Lucid:只在跑 AI 时阻止笔记本休眠 — Pitiful_Hedgehog_600 · 2026-09-11
- 20kb 函数匹配达成,banteg 召集 AI 逆向 Snail Mail 剩余 20 个挑战 — banteg · 2026-09-11
- Alex Townsend 汇编 200 个数值线性代数开放问题,供人类与 AI 攻关 — IgorCarron · 2026-09-11
- Kimi K2.8 Preview 上线:性能接近 K3、1M 上下文全档开放 — teortaxesTex · 2026-09-11
- 有人想给软件工程任务建「形态分类」数据库,好按任务选模型 — StewartalsopIII · 2026-09-11