Bonsai 2 27B 开源：三值权重仅 5.95GB，跑分达 FP16 版 98.2%
airesearch12 · x · 2026-09-18
Bonsai 2 27B 发布，采用三值（ternary）权重，语言模型权重仅 5.95GB（FP16 原版 54GB），在基准测试中达到 Qwen3.8 27B FP16 成绩的 98.2%。
其他要点：
- 在 M5 Max 上通过 WebGPU 达到 55 tok/s，可直接在浏览器运行
- 支持视觉、工具调用与 agentic 场景，为 27B 推理模型
- 开放权重并提供浏览器 demo
所属事件:Bonsai 2 27B 三值量化模型发布：6GB 体积保留 98.2% 性能(6 条相关)→
「Infra」频道最新
- Bittensor 子网 105 Beam 上线:低成本高速带宽网络 — markjeffrey · 2026-09-18
- DeepSeek v4.1 flash 首字延迟对比：Together 预热查询领先 — zhyncs42 · 2026-09-18
- 华为 10 万卡 Atlas-960 超集群曝光:30 天可训 10 万亿参数模型 — teortaxesTex · 2026-09-18
- MLX 社区把 Qwen 3.8 Flash 在 Apple Silicon 提速近 2 倍,商用部署卡在许可证 — gajesh · 2026-09-18
- CoreWeave 宣布上线多机架 NVIDIA Vera Rubin NVL72 集群 — Beth_Kindig · 2026-09-18
- 单张 4090 复现 DeepSeek v4.1 Flash,1M 上下文跑到 1-10 tok/s — _xjdr · 2026-09-18