Ternary Bonsai 2 27B 发布：仅5.9GB保留98.2%性能，3080可跑
cephaloform · x · 2026-09-18
PrismML 发布 Ternary Bonsai 2 27B，基于 Qwen3.8 27B 做三值量化，体积仅为全精度版本的 1/9，聚合基准性能保留 98.2%。距上一代 Bonsai 27B 发布仅两个月，5.9GB 的体积不变，但与全精度的差距明显缩小，尤其在 agentic coding、多模态推理和长程工具调用方面提升显著。模型以 Apache 2.0 开源，社区已有人畅想用老显卡 3080 本地跑、直接退订 API。
所属事件:Bonsai 2 27B三值量化发布，5.9GB保留98.2%性能(20 条相关)→
「Infra」频道最新
- 蒙特利尔 Exploit Summit 亮点:Bittensor 生态大版图一览 — markjeffrey · 2026-09-29
- Bain 测算：AI 到 2031 年需年入 6 万亿美元才能撑住算力建设 — sanjaykalra · 2026-09-29
- 实测打脸：DGX Spark 上 bf16 反而比 int8 convrot 更快，H3 视频生成差 14 秒 — dtdisapointingresult · 2026-09-29
- BAAI 推出 MALA 注意力:128K 上下文训练延迟降 2.2 倍 — BAAI · 2026-09-29
- BAAI CoWA 注意力架构:全因果覆盖改为集体属性,训练延迟降 7.4 倍 — BAAI · 2026-09-29
- Databricks 用 AI 智能体登顶 NVIDIA 内核榜单,总花费仅约 7 万美元 — Yuchenj_UW · 2026-09-29