27B 级模型压到手机大小
zacharynado · x · 2026-07-15
PrismML 发布 Bonsai 27B，称其是首个可以在手机上运行的 27B 级模型。
要点包括：
- 基于 Qwen3.6 27B，定位为 Bonsai 系列的新旗舰多模态模型
- 主打本地部署，强调多步推理、结构化工具使用、长上下文工作流和 agentic loop
- 提供两个版本：
- Ternary Bonsai 27B：约 5.9GB，面向笔记本级体验
- 1-bit Bonsai 27B：约 3.3GB，面向更极限的压缩部署
- 他们对比说明，27B 模型传统上无论 16-bit 还是 4-bit 都太大，不适合手机或大多数笔记本
转发内容还提到，社区已经在尝试让这些模型在 MacBook 上运行，甚至用简单脚本控制电脑。
所属事件:Bonsai 27B 发布：首个可在手机运行的 27B 模型(15 条相关)→
「编程与Agent」频道最新
- 用 $28 算力让模型给自己造 copilot：他的新模型个人基准 — bucolucas · 2026-10-27
- Agent 中途改计划该被允许吗：真实系统介入时的边界之辩 — wistfulcracker84 · 2026-10-27
- HeyGen 联手 Canva:幻灯片讲者备注自动变数字人讲解视频 — HeyGen · 2026-10-27
- 隐私场景实测：本地 Qwen 3.8 FN 不输云端前沿模型还更快 — dr_lm · 2026-10-27
- Cloudflare Computer 支持 agent 中断恢复，可跳过已完成的非幂等请求 — irvinebroque · 2026-10-27
- LLM Tails 实测省 80% 输入 token：先读后写约束 agent 编码 — savadks1818 · 2026-10-27