PrismML 发布三值模型 Bonsai 2 27B：体积缩 9 倍保留 98.2% 性能
thione · x · 2026-09-21
PrismML 发布 Ternary Bonsai 2 27B，基于 Qwen3.8 27B，采用 {−1, 0, +1} 三值权重加 FP16 分组缩放，等效每权重 1.76 bit，整体仅 5.9GB，Apache 2.0 开源。
关键指标：
- 相比全精度版本体积缩小 9 倍以上，聚合基准性能保留 98.2%；
- 支持 262K token 上下文、文本+图像多模态输入；
- 主打本地部署：内存占用小、本地吞吐高、能效更好；
- 相比第一代 Bonsai 27B，推理、编码、视觉与长程智能体能力均有提升。
所属事件:PrismML 三值模型 Bonsai 2 27B 体积缩九成保留 98.2% 性能(2 条相关)→
「Infra」频道最新
- Meta 携手 Arm 开发新一代数据中心 CPU「Arm AGI CPU」 — bookwormengr · 2026-09-21
- Starlink 席卷拉美农村教育：数万座天线连接数十万学生 — XFreeze · 2026-09-21
- HF speech-to-speech 合入 NVIDIA Parakeet Unified 语音识别后端 — andimarafioti · 2026-09-21
- 苹果赢下 AI 算力彩票:M5 Ultra 512GB 统一内存成本地跑模型利器 — Hesamation · 2026-09-21
- 骁龙 8 Elite 手机本地跑 Z Image Turbo，40 秒一张图 — Fine_Philosopher_882 · 2026-09-21
- 8GB 内存也能跑 LLM:Linux 轻量开发实力打脸质疑 — gnukeith · 2026-09-21