Bonsai 2 27B 开源：三值权重仅 5.95GB，跑分达 FP16 版 98.2%
airesearch12 · x · 2026-09-18
Bonsai 2 27B 发布，采用三值（ternary）权重，语言模型权重仅 5.95GB（FP16 原版 54GB），在基准测试中达到 Qwen3.8 27B FP16 成绩的 98.2%。
其他要点：
- 在 M5 Max 上通过 WebGPU 达到 55 tok/s，可直接在浏览器运行
- 支持视觉、工具调用与 agentic 场景，为 27B 推理模型
- 开放权重并提供浏览器 demo
所属事件:Bonsai 2 27B三值量化发布，5.9GB保留98.2%性能(20 条相关)→
「Infra」频道最新
- Gary Marcus:多米诺骨牌开始倒下,算力将重演光纤过剩 — GaryMarcus · 2026-11-02
- 单台 H200 跑不动 DeepSeek 4.1 Flash，两台每小时 10.59 美元 — daluoseo · 2026-11-02
- 所有系统知识都将汇入推理与硬件，AI 时代技能版图正在重写 — Abhishekcur · 2026-11-02
- AWS 被曝算力订满至 2027，专家称「卖光」说法需看语境 — DavidLinthicum · 2026-11-02
- 富士康董事长刘扬伟：AI 不是泡沫，产品需求依然明确 — pstAsiatech · 2026-11-02
- 单卡 H200 跑 DeepSeek V4.1,时租仅 5.3 美元 — daluoseo · 2026-11-02