DeepSeek V4.1 Flash 1017 调试探基准跑分出炉:三框架最高修42.7个bug
PawelHuryn · x · 2026-10-19
Pawel Huryn 汇总了 DeepSeek V4.1 Flash 1017 在 Bug Hunt Bench(仅计预埋 bug 的盲评调试基准)上的完整成绩:3 种 agent 框架(Claude Code、DeepSeek Harness、Pi)× 3 档推理力度(Low/High/Max),共 17 次运行。要点:
- 最高分:Max 力度 + DeepSeek Harness,均值 42.7/105(中位数 42),成本 $1.84/次
- 同为 Max,Claude Code 框架均值仅 39.1,说明框架差异在高力度下更明显
- Low 力度下各框架 33.8-34.8,差距缩小;最低成本仅 $0.46
- 单次运行约 33-62 分钟,性价比区间在 $0.6-1.1
作者结论:推理力度越高,harness(agent 框架)对成绩的影响越大。附完整每轮分数表。
所属事件:Bug Hunt Bench 实测:同一模型换 harness 成绩差 3.6 分(5 条相关)→
「编程与Agent」频道最新
- Yelp、达美、摩根大通纷纷封杀 AI Agent,代理上网之路受阻 — steveplunkett · 2026-10-19
- 构建 400+ Agent 后总结:15 个 AI Agent 设计模式 — MaryamMiradi · 2026-10-19
- 开源项目 Groki 用 ESP32 直连 Grok 原生语音做桌面助手 — alexcovo_eth · 2026-10-19
- AI Agent 用 EHT 原始数据复现黑洞照片,与官方图像匹配 91%-98% — fofrAI · 2026-10-19
- Grok bot 不写代码:实为转发任务给 Mac 上的 Claude Code — alexcovo_eth · 2026-10-19
- 用邮件指挥 AI Agent 干活:发封邮件就完成 SEO 分析 — pramodk73 · 2026-10-19