实测泼冷水:换成完整 Qwen Code 界面,小模型成绩反降 5.3 分

yb2698 · x · 2026-10-12

作者基于 Pi 0.84.4 编码 harness 做了一组消融实验,测试五种变体:verify-nudge(提交前让模型自查)、lean-prompt(更短系统提示)、qwen-code-tools(工具名改成 Qwen Code 命名)、qwen-sampling(用模型卡推荐采样参数)、qwen-code-full(完整 Qwen Code 界面)。配图显示:在 Qwen3.5-9B 和 Qwen3.8-27B 上,所有变体的 95% 置信区间都跨过 0,几乎没有真正提升;令人意外的是给小模型套上完整 Qwen Code 设置反而让分数下降(9B 上 -5.3 分)。作者原以为 Qwen 模型在自己 harness 上训练充分会表现更好,结果并非如此。

所属事件:实测 Pi harness 改动难提升 Qwen 跑分(5 条相关)→

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →