PrismML 发布 Bonsai 2 三值模型:9B 仅 2GB 可跑手机
gajesh · x · 2026-10-16
PrismML 发布基于 Qwen3.5 的 Bonsai 2 系列三值（ternary）模型，面向日常设备上的本地助手场景：
- 规格极小：2B 仅 0.43GB、4B 0.95GB、9B 2.0GB
- 带来更强推理、视觉理解与工具调用能力
- 重点优化指令遵循、避免重复循环、移动端工具调用；9B 在标准指令跟随与日常数学任务上 token 消耗减少约 40%
- Darkbloom 宣布为 Bonsai 9B 提供首日支持，前 100 名用户获 2.5 亿免费 token
团队称这是 Bonsai 1.7B/4B/8B 的继任者，目标是把更强智能装进更小的设备，被视为本地 AI 下一阶段的关键拼图。
所属事件:PrismML 开源三值模型 Bonsai 2，9B 仅 2GB 可跑手机(6 条相关)→
「Infra」频道最新
- DOT-MoE:用最优传输把稠密模型改造成稀疏 MoE — burkov · 2026-10-16
- 斯坦福 CS336:7B 模型权重仅 14GB,训练却要 84GB 起步 — stanfordnlp · 2026-10-16
- NVIDIA NVFP4 新压缩技巧:利用行内尺度相近性省 45-48% 存储且位精确 — TheZachMueller · 2026-10-16
- AWS 延期 Claude Sonnet 3/3.5/3.6 EOL 至 2026 年 11 月 13 日 — repligate · 2026-10-16
- Apple、Meta CEO 热炒 Mac 芯片推理，有人断言分布式推理网络是百亿美元机会 — gajesh · 2026-10-16
- NVIDIA 74B 新模型登顶美国开源榜，已可本地跑在 Mac 上 — SumitGup · 2026-10-16