Ternary Bonsai 2 27B 发布：体积缩至 1/9，仍保留 98.2% 基准性能
cephaloform · x · 2026-09-18
PrismML 发布 Ternary Bonsai 2 27B，基于 Qwen3.8 27B，比全精度版本小 9 倍，同时保留 98.2% 的综合基准性能。
距离第一代 Bonsai 27B 发布两个月，最大的改进是质量：占用仍为 5.9 GB，但与全精度的差距明显缩小，在 agentic coding、多模态推理和长程工具使用上进步尤其大。模型以 Apache 2.0 许可开源。
所属事件:PrismML 发布三值量化 Bonsai 2 27B：5.95GB 浏览器可跑(7 条相关)→
「Infra」频道最新
- RTX Pro 6000 上 Ninfer 跑 Qwen3.6 35B 达 600 tok/s — CharlesStross · 2026-09-18
- Cadence：印度EDA市场2031年将达78亿美元 — bookwormengr · 2026-09-18
- Google 开源 Agent Substrate:单机塞千个休眠 Agent,恢复仅 500ms — blaizedsouza · 2026-09-18
- Reddit 网友把 6 张 V100 塞进普通全塔机箱搭本地推理服务器 — Odd_Caterpillar_2994 · 2026-09-18
- Crusoe 融资 39 亿美元建 AI 数据中心，估值达 309 亿 — TechCrunch AI · 2026-09-18
- GPU 编程打卡第 257 天：推荐 2.5 小时半导体供应链入门课 — blaizedsouza · 2026-09-18