三值量化 Bonsai 2 27B 仅 5.9GB,保留 98.2% 性能并开源

soumitrashukla9 · x · 2026-09-22

PrismML 发布基于 Qwen3 27B 的三值量化模型 Ternary Bonsai 2 27B:体积比全精度对应版本小 9 倍，权重仅 5.9GB，却保留 98.2% 的综合基准成绩，在 agentic coding、多模态推理与长程工具使用上进步明显，以 Apache 2.0 开源。经济学家 johnjhorton 随即在 48GB 内存的新款 MacBook Pro 上，用 Expected Parrot 的 EDSL 框架通过 llama.cpp 的 Metal 分支本地跑通该模型，并执行了一组经济理性测试，效果不错，代码与报告已开源(edsl-bonsai-behavioral-tests 仓库，含行为偏差测试脚本与论文)。