ggufbench 实测:本地模型 agentic 编码,27B 类已够用,125B 未夺冠
Joralk_ · reddit · 2026-10-23
ggufbench 作者发布本地 GGUF 模型 agentic 编码基准:同一 harness 覆盖 18 个工具调用、72 个代码、72 个 agent 任务,每任务跑 3 个种子,采样参数统一,2×RTX 5080。
- 排名意外:MiniCPM-V-4.7-35B(0.85)与 Qwen3.8-27B(0.82)与 125B 的 Qwen3.8-Flash-Next(Strata 引擎,0.80)持平,125B 单项无一夺冠。结论是 agentic 编码的关键杠杆不是模型规模,而是工具调用可靠性,27B 级已饱和。
- 思考模式是税:27B 开启后代码 0.79→0.93、agent 0.90→0.96,但延迟 36ms→629ms、每次调用多 253 个中位 token;建议默认关闭、难题开启。
- 引擎无差异:换用 BigMoeOnEdge 引擎同任务得分 0.920 vs 0.923,但发现其 router hook 会把生成轮次返回为空消息,已提交 issue。
- 局限:消费级 GPU、自建任务集、单机、每模型一种量化。排行榜与仓库开源(jordimarsal/ggufbench)。
所属事件:ggufbench 本地模型实测:35B 编码 Agent 追平 125B(2 条相关)→
「编程与Agent」频道最新
- 编码 Agent 榜单 v2.0 发布:Claude Code 以 61.7 分居首,Max 模式被质疑该剔除 — ryanallred · 2026-10-23
- 南洋理工 RouteWeaver:统一多模式 LLM 路由框架 — NanyangTechnologicalUniversity · 2026-10-23
- 蚂蚁国际提出 Heartbeat Thinking,语音 agent 响应延迟降 36.4% — ant-intl · 2026-10-23
- 开发者驳「vibe coding 致漏洞泛滥」:多数 CVE 出自人写旧代码 — HowDevelop · 2026-10-23
- MOSS-Image 实测 20 种动漫风格,附 ComfyUI 工作流与 SLG 技巧 — SkirtSwimming8950 · 2026-10-23
- Claude 与 Claude Code 合二为一,官方建议:每 6 个月删光你的 CLAUDE.md — rubenhassid · 2026-10-23