本地 GGUF 跑编码 Agent 实测：35B 小模型追平 125B，工具调用才是关键
Joralk_ · reddit · 2026-10-22
作者自建 ggufbench harness，在 2× RTX 5080 上横评七款本地 GGUF 模型加一个 Strata 引擎，测的是 agentic 编码而非聊天：模型能否用合法参数调用工具、撑过多轮调用循环、读目录、改文件并自检。
方法：每模型跑 18 个工具调用、72 个代码、72 个 agent 任务，每任务 3 个种子（42/43/44），采样参数统一（temp 0.2、top-p 0.95、top-k 40、min-p 0.05、KV q80、单槽），每模型用各自最优配置，排除项均记录原因。
结果（关闭思考）：MiniCPM-V-4.7-35B-A3B Q4KM 综合 0.85 居首（工具 100%/代码 83%/agent 90%，26ms）；qwen36-35b-distill 0.84；Qwen3.8-27B 系列 0.81–0.82；gemma-4-26B 0.80；125B 的 Qwen3.8-Flash-Next（Strata 引擎）仅 0.80，未拿第一。
结论：
- 尺寸不是 agentic 编码的杠杆，工具调用可靠性才是，27B 级别已饱和
- 思考模式是税，只在硬代码任务上回本：27B 代码 0.79→0.93、agent 0.90→0.96，但延迟 36ms→629ms、每次调用多 253 token；默认关闭、难题开启
- 换引擎（BigMoeOnEdge）无可测差异（0.920 vs 0.923），但发现其 router hook 会返回空消息的 bug 并提交 issue
局限：消费级 GPU、自建任务集、单机、每模型单一量化。
「编程与Agent」频道最新
- YC 系 Mireye 推出土地数据 API+MCP，覆盖 1.6 亿地块 — ycombinator · 2026-10-23
- 实测 12 套决策系统：分类器换版的「LARP 式炒作」陷阱 — KlausCodes · 2026-10-23
- 「给 agent 用的 Product Hunt」上线:按真实调用排出的工具榜 — claudeai · 2026-10-23
- 个人智能体元年：OpenClaw 走红到大厂集体入场的一年 — sujingshen · 2026-10-23
- Shopify 内部 Slack bot River 不擅长移动开发,员工做内部广告说服工程师 — jevon · 2026-10-23
- 梗图：AI vibe coding 与老虎机的对应关系逐条拆解 — burny_tech · 2026-10-23