PrismML 发布三值化 Bonsai 2 27B：仅 5.9GB 保留 98.2% 性能
pcuenq · x · 2026-09-18
PrismML 发布 Ternary Bonsai 2 27B，基于 Qwen3.8 27B 做三值量化，体积比全精度版本小 9 倍（约 5.9GB），但保留母模型 98.2% 的综合基准成绩。
- 距首代 Bonsai 27B 发布两个月，本次最大提升在质量：与全精度的差距明显缩小
- 强项包括 agentic 编码、多模态推理与长程工具使用
- 在 M5 Max 上以 55 tok/s 运行，模型体积不到 6GB
- 以 Apache 2.0 协议开源
所属事件:Bonsai 2 27B三值量化发布，5.9GB保留98.2%性能(20 条相关)→
「Infra」频道最新
- 蒙特利尔 Exploit Summit 亮点:Bittensor 生态大版图一览 — markjeffrey · 2026-09-29
- Bain 测算：AI 到 2031 年需年入 6 万亿美元才能撑住算力建设 — sanjaykalra · 2026-09-29
- 实测打脸：DGX Spark 上 bf16 反而比 int8 convrot 更快，H3 视频生成差 14 秒 — dtdisapointingresult · 2026-09-29
- BAAI 推出 MALA 注意力:128K 上下文训练延迟降 2.2 倍 — BAAI · 2026-09-29
- BAAI CoWA 注意力架构:全因果覆盖改为集体属性,训练延迟降 7.4 倍 — BAAI · 2026-09-29
- Databricks 用 AI 智能体登顶 NVIDIA 内核榜单,总花费仅约 7 万美元 — Yuchenj_UW · 2026-09-29