Bug Hunt Bench 实测:换 harness 影响模型修虫成绩
Pawel Huryn 在 Bug Hunt Bench 上对 DeepSeek V4.1 Flash 1017 进行多种 harness 对比测试:同一模型在不同 harness 下修 105 个植入 bug 的成绩相差 3.6 分,其中 DeepSeek harness 以 42.5 分最佳,Pi harness(MAX 档)得 42.2 分且成本仅约一半。结果显示 Pi + high effort 与 DeepSeek harness 在修虫数上稳定超过 Claude Code,但后者花费多 80%,凸显 harness 选择对评测结果与成本的影响。
2026-10-19 ~ 2026-10-19 · 4 条相关
- Pi harness 跑分逼近 DeepSeek 官方:42.2 分成本仅一半 — PawelHuryn · 2026-10-19
- Bug Hunt 实测:DeepSeek Harness 修虫数超 Claude Code,但花费多 80% — PawelHuryn · 2026-10-19
- Bug Hunt Bench 新数据:Pi harness 高档位稳定跑赢 Claude Code — PawelHuryn · 2026-10-19
另有 1 条近重复转述:PawelHuryn