27B 级模型压到手机大小
zacharynado · x · 2026-07-15
PrismML 发布 Bonsai 27B，称其是首个可以在手机上运行的 27B 级模型。
要点包括：
- 基于 Qwen3.6 27B，定位为 Bonsai 系列的新旗舰多模态模型
- 主打本地部署，强调多步推理、结构化工具使用、长上下文工作流和 agentic loop
- 提供两个版本：
- Ternary Bonsai 27B：约 5.9GB，面向笔记本级体验
- 1-bit Bonsai 27B：约 3.3GB，面向更极限的压缩部署
- 他们对比说明，27B 模型传统上无论 16-bit 还是 4-bit 都太大，不适合手机或大多数笔记本
转发内容还提到，社区已经在尝试让这些模型在 MacBook 上运行，甚至用简单脚本控制电脑。
所属事件:Bonsai 27B 发布：首个可在手机运行的 27B 模型(15 条相关)→
「编程与Agent」频道最新
- 受 OpenAI 万机群启发，开发者开源 agent 众包解题平台 — Benjaminsen · 2026-09-11
- 开源 Mac 应用 Lucid：只在跑 AI 时阻止笔记本休眠 — Pitiful_Hedgehog_600 · 2026-09-11
- 20kb 函数匹配达成,banteg 召集 AI 逆向 Snail Mail 剩余 20 个挑战 — banteg · 2026-09-11
- Alex Townsend 汇编 200 个数值线性代数开放问题，供人类与 AI 攻关 — IgorCarron · 2026-09-11
- Kimi K2.8 Preview 上线：性能接近 K3、1M 上下文全档开放 — teortaxesTex · 2026-09-11
- 有人想给软件工程任务建「形态分类」数据库,好按任务选模型 — StewartalsopIII · 2026-09-11