裸 IPython 打平生产级 Agent 框架:工具输出归一化消除 9B 模型随机性
HauntingMoment · reddit · 2026-10-19
Hugging Face 团队测试了 Qwen3.5-9B 在 Terminal-Bench Lite(OpenThoughts TB-Lite)上运行不同 agent harness 的表现,对比 QwenCode、OpenHands、opencode、Pi 和一个仅用 IPython 的极简 harness。
核心发现
- 单工具 IPython harness 能打平重量级生产 harness;小模型 agent 的大量「随机性」来自环境噪声而非模型本身。
- 各 harness 每轮约 25-30% 的工具调用是读文件,工具使用习惯更多由系统提示而非模型决定;QwenCode 因巨大的系统提示每轮 prompt 明显更大。
- harness 高度随机:20 次 × 3 任务的同一任务通过率波动巨大,OpenHands 最稳定(默认硬编码 temperature=0),极简 harness 最不稳定。
关键修复:v0→v3 迭代中,修复 IPython kernel 与任务环境分离、优化系统提示(用 %%writefile、完成前先验证)后,pandas-etal 任务从 70% 提升到 85%、单次尝试 token 从 130k 降到 69k。最妙的一招是归一化工具输出——pip 输出里 150.3 MB/s vs 129.3 MB/s 这种差异就足以让 9B 模型走偏,约 40 行正则归一化加静默环境,通过率提到 95%、token 降到 50k、temperature 0 下的不可复现对从 61% 降到 0%。
给本地 agent 开发者的建议:小模型用更少脚手架可能更好;控制采样参数;清除工具输出中的非确定性噪声。大模型大概率能无视这类噪声,小模型显然不能。harness 已开源(huggingface/ipython-harness)。
「编程与Agent」频道最新
- 合并量4个月暴涨12倍,Anthropic 自建版本控制系统 Scion 替代 Git — Pavan_Belagatti · 2026-10-19
- 无需剪辑软件:与 Claude 对话完成一支全 AI 合成视频 — aziz4ai · 2026-10-19
- 20 多个开源 AI 黑客框架 Cairn 控制面板暴露在公网 — Hesamation · 2026-10-19
- Vibe coding 的诅咒:读不懂代码就不敢上线,读懂了不如自己写 — MoonL88537 · 2026-10-19
- Agent 记忆层踩坑:存了半年溯源字段,召回接口却一个都没暴露 — Neither-Witness-6010 · 2026-10-19
- AI 编程的诅咒:为求速度放弃读懂代码,项目一大就被 AI 绑架 — MoonL88537 · 2026-10-19