PrismML 发布 Bonsai 2 27B:体积缩小 9 倍仅 5.9GB,保留 98.2% 性能
alexcovo_eth · x · 2026-09-19
PrismML 发布 Ternary Bonsai 2 27B,基于 Qwen3.8 27B 做三值量化,体积缩小 9 倍到 5.9GB,同时保留 98.2% 的聚合基准成绩。
与两个月前的第一代 Bonsai 27B 相比,最大变化是质量提升:体积不变,但与全精度的差距明显缩小,尤其在 agentic coding、多模态推理和长程工具使用上进步显著。模型以 Apache 2.0 协议开源,可本地运行。
所属事件:Bonsai 2 27B三值量化发布,5.9GB保留98.2%性能(20 条相关)→
「Infra」频道最新
- 印度 Sarvam 推出 Token Factory:在本土托管全套开源模型推理 — HarveenChadha · 2026-11-16
- ZGX Fury 实测:Qwen3.8-Flash-Next 跑出 351 tok/s,本地 Agent/RAG 全流程演示 — Sam Witteveen · 2026-11-16
- 谷歌宣布 Gemini 3.5 Flash 可在断网气隙环境运行 — shashib · 2026-11-16
- Gemma.c:单文件 C 实现 Gemma 1/2/3 多模态推理,纯 CPU 跑 72 tok/s — This-Purchase-3325 · 2026-11-16
- BIS 规则原文:封堵先进 AI 芯片的远程访问通道 — apples_jimmy · 2026-11-16
- 越狱PS4直连2013年GPU跑9B开源模型,速度达43 tokens/s — AIFlow_ML · 2026-11-16