三元权重 27B 模型 Bonsai 2 不足 6GB,WebGPU 浏览器内可跑
xenovatech · reddit · 2026-09-18
Ternary Bonsai 2（27B）已在 Hugging Face 发布。该模型基于 Qwen3.8-27B 的混合注意力架构（架构未改动），但将权重转为三元（ternary）权重，体积压缩到 6GB 以内——据模型卡称比 FP16 小 9 倍，同时保留 98.2% 的智能水平。得益于小体积，它可以在浏览器中通过 WebGPU 本地运行，官方提供了在线 Demo 与模型合集。
所属事件:Ternary Bonsai 2 发布：27B 三元权重模型仅 5.9GB 可在浏览器运行(4 条相关)→
「Infra」频道最新
- Bonsai 2 27B 开源：三值权重仅 5.95GB，跑分达 FP16 版 98.2% — airesearch12 · 2026-09-18
- All-In 对谈 Brad Gerstner：AI 资本开支谁买单、Gigawatt 缺口与半导体重塑纳斯达克 — DavidSacks · 2026-09-18
- 第三方复现 Gensyn open-1b 训练步，哈希链上可验证 — benfielding · 2026-09-18
- Anthropic 开源 Claude 撰写的 GPU 优化,30+ 生信模型平均提速 4 倍 — ResultBackground2450 · 2026-09-18
- Spotify 7.77 亿月活、每秒千万级请求,谈 AI 如何改变其工程质量体系 — rseroter · 2026-09-18
- 单日新增 605 个 Linux 内核 CVE,前一日还有 276 个 — jedisct1 · 2026-09-18