105 个真实 bug 实测:Opus 5.5 与 Muse Wonder 并列领跑
PawelHuryn · x · 2026-10-17
Pawel Huryn 在两个真实代码库中埋入 105 个隐藏 bug,测试各前沿模型的查找修复能力(Bug Hunt Bench):
- 排名:Muse Wonder Full 1.0 (max) 42 分居首,Opus 5.5 (max) 41.7,Gemini 4 Argon (high) 40.7;DeepSeek V4.1 Flash 1017 (max) 34 分是新版本的重大进步(旧版仅 21.7);Grok 4.7 (xhigh) 29,Qwen3.8-Max 25.7,GLM-5.3 19
- FAQ 要点:这些都是 2026 年初前沿模型一开始漏掉的真实 bug;Sonnet 5.5 (max) 的高分靠比 GPT-6 Astra 多花 7 倍交互轮次换来的;未埋设的 bug 不计分,部分 OpenAI 模型会报告大量真实但不相关的 issue 来刷分
- 基准设计:盲评、每个 repo 单 prompt,支持按分数/成本/时间/轮次多维排序,全部数据在 GitHub 公开
所属事件:105 个隐藏 bug 实测:Opus 5.5 与 Muse Wonder 并列领先,DeepSeek V4.1 Flash 修复 34 个(2 条相关)→
「编程与Agent」频道最新
- 体育赔率 MCP 服务器上线:Pinnacle 公平概率对比 Polymarket 实时价 — Unhappy_Composer_894 · 2026-10-17
- 为舞蹈活动目录加 MCP 服务器,实测 Claude/ChatGPT/Grok 三家差异 — Ajunjahi · 2026-10-17
- Palo Alto 发布 Cortex XCOR:AI SRE 平均3分钟内定位告警根因 — shashib · 2026-10-17
- HF 研究员喊话 OpenAI/Anthropic:让 Codex 别再选错 Chrome 窗口 — NielsRogge · 2026-10-17
- Agent 三天谈下 3PL 合同:找仓、询价、砍价全流程自动化 — aarthir · 2026-10-17
- 四大模型同题比拼 3D 体素小岛:Gemini 3 的美术公认最能打 — cedric_chee · 2026-10-17