Bonsai 2 4B 仅需 1GB 显存,编码与 Agent 能力达 Qwen3.8 27B 的八至九成
julianharris · x · 2026-10-17
小模型跑出大能力
Bonsai 2 4B 是三款新开源权重模型中最亮眼的一个:仅需 1GB 显存即可运行,编码与通用 Agent 任务基准达到 Qwen3.8 27B 的 80-90%。
实测要点
- 复杂多步 Agent 任务会吃力,且和 Qwen 系一样容易过度思考
- 建议思考 token 至少 8K 预算、思考上限 4K,可显著减少过度思考并提升整体表现
- 运行速度极快,作者附了完整速度图表
评论指出一个正在形成的趋势:用轻量超快 LLM 承担专门的子 Agent 任务。
所属事件:Bonsai 2 三值小模型实测:4B 成甜点位(2 条相关)→
「编程与Agent」频道最新
- 一句话点破 vibe coding:区分 AI 精神混乱和高手全靠单元测试 — broodsugar · 2026-10-17
- Reflection AI 开源 Beam:Apache 2.0 权重,配 DFlash2 解码快3倍 — Lianhuiq · 2026-10-17
- CoPE 只加一个损失,让语言 Agent 样本效率最高提升2倍 — Lianhuiq · 2026-10-17
- Nudge:零微调让小模型用反馈学习决策,RouterBench 提升 14.8% — sockpuppet17263 · 2026-10-17
- IntentGuard 征询反馈:给 AI agent 加安全层防提示注入 — Aayush_P_ · 2026-10-17
- Vercel 用 AI agent 把 tsgo 移植回 TypeScript,tsc-ts 比 tsgo 快 2-4 倍 — cramforce · 2026-10-17