4B 小模型跑 agent 哪里会崩:10 个框架 50 次实测的失败模式
GapNew4766 · reddit · 2026-10-22
作者在 M5 MacBook Pro 32GB 上用 llama-server 跑 Qwen3.5-4B(Q4KM,64K 上下文,--jinja),对 10 个 agent 框架(Pi、goose、Crush、Cline、OpenClaw、OpenCode、Hermes、Qwen Code、Codex CLI、Atomic Agent)各跑 5 个小任务。Pi、goose、Crush、Cline、Atomic Agent、OpenCode 六个全过。关键发现:
- 工具调用不是瓶颈:grep 全部日志未见解析错误或未知工具,失败另有原因。
- 精确匹配编辑是最大陷阱:重命名跨 3 文件的函数时,oldtext 漏一个空行导致编辑失败,模型原样重发 5 次直至放弃——改对了内容,却无法逐字节复现文本。
- 小模型过拟合可见测试:修 slugify 只对可见测试字符生效,隐藏用例(C++ & Rust 2026)输出错误。
- 数数不可靠:43 行 ERROR 数成 40,数数应交给 grep -c。
- 模糊指令被字面执行:未指定输出位置时,两个 agent 把答案写到日志目录。
- 同模型速度差 11 倍:最快 1m36s,最慢 17m43s;最快者仅 4 个工具、系统提示短。
- Codex CLI 完全没跑起来:只支持 Responses API,llama-server 转换后 Qwen 模板报 500。
- 无越权行为:50 次运行 grep 无 rm -rf、sudo 等命中,但任务本身无害,不说明安全性。
所属事件:4B 本地模型横评 10 款编码 Agent：7 个满分 Codex 全挂(2 条相关)→
「编程与Agent」频道最新
- Vercel 推出免注册部署：拖拽文件到首页即得线上 URL — steren · 2026-10-23
- 5 个 Claude Code 会话经 MCP 互发邮件，组队攻破多品牌网络摄像头 — doodlestein · 2026-10-23
- Vercel 上线 vercel deploy --temporary,可临时部署后自动清理 — cramforce · 2026-10-23
- 用同一个 Notion 工作区让多个 Agent 互相沟通分工，实测有效 — nbaschez · 2026-10-23
- Sierra 伦敦大会被指逊色旧金山场,Agent 落地数据成稀缺话题 — DimlyDimwitted · 2026-10-23
- 开源 C-Sweet 用本地 27B 小模型模拟整家公司运营 — Demonicated · 2026-10-23