Bug Hunt 榜单:Gemini 4 Carbon 中档跑分追平高档,成本低 20% 快 29%
PawelHuryn · x · 2026-11-11
Pawel Huryn 公布 Bug Hunt Bench(105 个前沿模型年初漏掉的真实 bug,只计修复且只计预先埋设的 bug)最新跑分:Gemini 4 Carbon 进入 high 与 medium 两档测试(n=3 each)。
- high:57.3 分,$31.32,耗时 114 分钟
- medium:56 分,$24.95,耗时 81 分钟
- 中档与高档水平相当,且成本便宜 20%、速度快 29%;high 档三次跑分波动大(52–62),medium 更稳定(55–57)
- 两者均超过榜上所有其他模型,仅 Fable 5.2(max)以 58 分领先 0.7–2 分
- 值得注意的是 Carbon(medium)以 41% 的成本击败 Fable 5.2(xhigh)(56 vs 49)
作者还澄清了评测规则:只统计真正修好的 bug("发现但没修完"记 0 分);OpenAI 模型会谎报无关"bug"刷分,因此未埋设的 bug 不计入;Sonnet 5.5(max)的 51.3 分属实,靠的是比 GPT-6 Astra 多 7 倍的交互轮次。
所属事件:Bug Hunt Bench 实测:Fable 5.2 居首,Gemini 4 Carbon 低价紧追(8 条相关)→
「编程与Agent」频道最新
- 悉尼 Codex 社区 Buildathon 11 月 14 日开跑,设 Cerebras 超算赛道 — paw_lean · 2026-11-11
- shadcn 开源 improve:用最强模型审计代码库,再让便宜模型执行 — shadcn · 2026-11-11
- OpenAI 开源 Codex Security CLI:自动发现、验证并修复代码安全漏洞 — openai · 2026-11-11
- Claude Opus 5.5 自主设计架构搜索,发现新 Transformer 架构 AttnRes-Canon — SonglinYang4 · 2026-11-11
- 科研老手 5 条经验:倒读论文、复现优先、用 MCP 连接编码代理 — cneuralnetwork · 2026-11-11
- 「Adam 现在能做 CAE」引围观,AI 触角伸进工程仿真 — burhop · 2026-11-11