PrismML 三值模型 Bonsai 2 27B 体积缩九成保留 98.2% 性能

PrismML 发布三值量化模型 Bonsai 2 27B(基于 Qwen3.8 27B),采用 {−1, 0, +1} 三值权重加 FP16 分组缩放,等效每权重约 1.76 bit,并配合混合专家设计。模型体积缩小约 9 倍,仍保留 98.2% 的性能;其 GGUF 版本已登上 Hugging Face 热门榜,受到社区关注。

2026-09-20 ~ 2026-09-21 · 2 条相关