GPT-5.6 Sol 在 60 个回归 bug 基准中又修了 29 个意外问题
PawelHuryn · x · 2026-07-27
Repo 2：60 个已上线回归 bug，7 个前沿模型对比
第二个基准换成了一个 LMS 代码库，里面有 60 个真实的回归 bug，而且这些 bug 都已经在真实产品中出现过，每一个都能对应到最初修复它的 commit。
结果显示：
- GPT-5.6 Sol 修复了 18 个预设回归问题，后来又修复了 29 个并非作者预先植入的 bug。
- 作者在文字总结里说，其他模型的修复数大致落在 1 到 6 个之间；配图则给出了更完整的模型对比。
- 作者还表示，自己原本以为这个代码库已经很干净了。
这组测试同样采用严格的 diff 评判：关键不是模型说得有多自信，而是它提交的改动到底有没有真正修掉 bug。
所属事件:前沿大模型实测：105个隐藏bug超半数未被捕获(4 条相关)→
「模型」频道最新
- 有人称顶级模型如今写作还不如一年前 — dbreunig · 2026-07-27
- MPT-30B 雷达图曾意外引发大规模争议 — code_star · 2026-07-27
- 本地 Gemma 4 31B 自发变得毒舌且难以复现 — n0head_r · 2026-07-27
- Gemini 3.6 Flash 被看作能以低成本打 Sonnet 质量 — haider1 · 2026-07-27
- 用户吐槽 Opus 5 能力严重降级：满嘴胡言还算错题 — whatsallthiss · 2026-07-27
- Reddit 长文拆解 Kimi K3 背后的 MoE 和长上下文栈 — MohamedKadri_ · 2026-07-27