Ternary Bonsai 2 27B 发布:9 倍压缩仍保留 98.2% 性能
TheZachMueller · x · 2026-09-18
- PrismML 发布 Ternary Bonsai 2 27B,基于 Qwen3.8 27B 的三元量化模型,体积比全精度版本小 9 倍,占用仅 5.9 GB,同时保留 98.2% 的聚合基准性能。
- 这是距首代 Bonsai 27B 两个月后的升级,主要改进在质量:agentic coding、多模态推理和长程工具使用方面与全精度的差距明显缩小。
- 模型以 Apache 2.0 许可开源,定位本地部署场景。
所属事件:PrismML 发布三值量化 Bonsai 2 27B：6GB 即可在浏览器跑 27B 模型(8 条相关)→
「Infra」频道最新
- 神秘买家豪掷 1 亿美元权利金，狂买 10 月 2 日到期 AI 股看涨期权 — toptickcrypto · 2026-09-18
- 首届 PyTorch Day Japan 定档 12 月 10 日东京举办 — PyTorch · 2026-09-18
- 自建 Blackwell Colab 管线：2 小时 MiniMax H3 视频只要 $6.96 — Interesting-Town-433 · 2026-09-18
- LaurieWired 在 CppCon 主题演讲谈内存层级新趋势 — lauriewired · 2026-09-18
- NVIDIA 直播:用 CUDA 全栈支撑金融、医疗、制造业的专用 AI 负载 — NVIDIA Developer · 2026-09-18
- FAA 拟投 8.75 亿美元引入 AI 改造空中交通管制系统 — danso · 2026-09-18