LLM 代码修复实战:Qwen3.6 获胜,重试机制关键
sysadmin420 · reddit · 2026-08-30
作者构建了一套严格的本地模型测试场,用真实代码仓库的 6 个历史 Bug 回归测试来评估模型代码修复能力(必须通过回归测试且不破坏现有测试套件)。
代码修复测试结果 (3次重试):
- qwen3.6:35b-a3b: 3/6
- devstral:24b: 2/6
- Qwen3-coder:30b: 1/6
- qwen2.5-coder:14b: 1/6
- deepseek-coder-v2:16b: 0/6
关键发现:
- 引入重试机制(将错误反馈给模型)显著改变了结果,说明模型更擅长迭代而非一次性解决。
- 视觉模型测试中,qwen3-vl:8b 完美识别渲染图像中的数字,而 llava:13b 幻觉严重。
所有测试结果与视频记录公开在 https://informant.reiners.io/gauntlet。
「编程与Agent」频道最新
- 用 Codex 17分钟写好 iPhone Duo 抢购程序,41项测试通过 — xiaohu · 2026-10-16
- 多玩家长期记忆产品登顶 BEAM 记忆基准,一条 prompt 即可安装 — CurieuxExplorer · 2026-10-16
- 生成式 CAD 工具 NativeCAD 提供 177 个 MCP 工具,85% 以上英文建零件需求可通过 — burhop · 2026-10-16
- Flux AI CAD 支持导入 STEP 文件后用自然语言直接改型 — burhop · 2026-10-16
- 同时开 50 个 AI 任务是充电还是烧脑?开发者吵起来了 — zack_overflow · 2026-10-16
- 创业者用 Opus 一次清掉 3 万行技术债,印证「等新模型来重构」策略 — lucasmeijer · 2026-10-16