Ternary Bonsai 2 27B 发布:9 倍压缩仍保留 98.2% 性能
TheZachMueller · x · 2026-09-18
- PrismML 发布 Ternary Bonsai 2 27B,基于 Qwen3.8 27B 的三元量化模型,体积比全精度版本小 9 倍,占用仅 5.9 GB,同时保留 98.2% 的聚合基准性能。
- 这是距首代 Bonsai 27B 两个月后的升级,主要改进在质量:agentic coding、多模态推理和长程工具使用方面与全精度的差距明显缩小。
- 模型以 Apache 2.0 许可开源,定位本地部署场景。
所属事件:Bonsai 2 27B三值量化发布,5.9GB保留98.2%性能(20 条相关)→
「Infra」频道最新
- Gary Marcus:多米诺骨牌开始倒下,算力将重演光纤过剩 — GaryMarcus · 2026-11-02
- 单台 H200 跑不动 DeepSeek 4.1 Flash,两台每小时 10.59 美元 — daluoseo · 2026-11-02
- 所有系统知识都将汇入推理与硬件,AI 时代技能版图正在重写 — Abhishekcur · 2026-11-02
- AWS 被曝算力订满至 2027,专家称「卖光」说法需看语境 — DavidLinthicum · 2026-11-02
- 富士康董事长刘扬伟:AI 不是泡沫,产品需求依然明确 — pstAsiatech · 2026-11-02
- 单卡 H200 跑 DeepSeek V4.1,时租仅 5.3 美元 — daluoseo · 2026-11-02