Bonsai 2 三值小模型实测：4B 性价比最佳，27B 一个技能意外掉链子
cephaloform · x · 2026-10-16
实测者分享 Bonsai 2 系列（2B/4B/9B）三值模型的使用结果，配图给出了与教师模型 Qwen3.8-27B 的完整七项基准对比：
- 4B 被认为是甜点位：1.06 GB、547 tok/s，7 项测试中 2 项进入教师 5 分以内，HumanEval 90 分。
- 9B 同尺寸下表现出色（2.24 GB、384 tok/s），HumanEval 94、GSM8K 97。
- 2B 仅 483 MB 但速度高达 878 tok/s，部分任务表现稳定。
- 思考模式简化为开/关，不再有原版的多档思考导致过度限流的问题。
- 值得注意的反例：27B 版在 Payload（写文件调用）测试上反而掉到 51 分，59 次失败中 47 次写了占位符而非正文。
「模型」频道最新
- Meta 开源 816B MoE 模型 Muse Spark Open,登顶美国开源权重榜首 — ArtificialAnlys · 2026-10-16
- Nolla Health 后训练 Nemotron 3.5：视觉诊断准确率 35% 升至 66.8% — LoganGrasby · 2026-10-16
- 开发者:除顶尖专家外,编码模型在软件各领域已全面超越人类 — zack_overflow · 2026-10-16
- 爆料预测:中国前沿模型或 2027 年 3 月追平 GPT-6 级别 — teortaxesTex · 2026-10-16
- Liquid AI 决策模型 d1-ultra 上线 Vercel AI Gateway — JosephJacks_ · 2026-10-16
- DeepLearningAI 周报:Haiku 5.5 降价九成、Gemini 4 Argon 输出上限升至 1M — DeepLearningAI · 2026-10-16