网友用 5 个前沿 LLM 给 39 个本地模型打分,Bonsai-2 27B 夺冠
yobarisushcatel · reddit · 2026-10-29
Reddit 用户跑了一个 10-20 小时的众评基准:39 个本地模型在 50 条提示(含 14 个真实工具 agent 任务,66 项测试)上作答,再由 5 个前沿 LLM(Gemini 3.8、GPT-6.1 Terra/Sol、Argon、Claude)当裁判打分。硬件为 5060 Ti 16GB + 64GB 内存。
关键结论:
- 综合第一:Bonsai-2 27B PQ2,均分 6.03、agent 分 6.64,13/14 任务完成、10/14 修复,57.4 tok/s,且正确遵守「禁止改核心代码」的 Golden Rule 约束
- 亚军 Underdog-Saluki 27B(5.93),第三 Qwen3.6 35B-A3B(5.36);参考线 Qwen3.5 9B Q8 定为 5.00,超过即胜
- 裁判还各选了「最佳底座」:NanoBeige4.2 3B 判断力 8.33、诚实度 8.5 领先,3B 体积给 16GB 显存留出 sidecar 空间,被认为最适合微调专精模型;Gemma-4 12B Q6 也多次入选
- 裁判评分总花费约 $30-40 + 两个 5 小时 Codex 额度
看点:27B 新模型已在 agent 任务上明显超越参考级 9B,且边界遵守(不乱改核心代码)成了高分关键项。
「模型」频道最新
- Rime 发布 prism 语音模型:300ms 响应,比 OpenAI 快 4 倍 — EXM7777 · 2026-10-29
- Bindu Reddy 爆料:中国模型转向从 OpenAI Astra 蒸馏 — bindureddy · 2026-10-29
- 推理痕迹现 OpenAI 指纹,Claude 揪出 DeepSeek 蒸馏痕迹 — zeeshanp_ · 2026-10-29
- Qwen4 将配 100 万 token 上下文,Qwen4-27B 或明日官宣 — brainExploded99 · 2026-10-29
- Reddit 用户实测 Muse-Glimmer:40K token 后放弃换 DeepSeek 收尾 — techmago · 2026-10-29
- PNAS 大咖吐槽 NYT:人脑每突触一个维度,何止三维 — pmddomingos · 2026-10-29