三元权重 27B 模型 Bonsai 2 不足 6GB,WebGPU 浏览器内可跑
xenovatech · reddit · 2026-09-18
Ternary Bonsai 2（27B）已在 Hugging Face 发布。该模型基于 Qwen3.8-27B 的混合注意力架构（架构未改动），但将权重转为三元（ternary）权重，体积压缩到 6GB 以内——据模型卡称比 FP16 小 9 倍，同时保留 98.2% 的智能水平。得益于小体积，它可以在浏览器中通过 WebGPU 本地运行，官方提供了在线 Demo 与模型合集。
所属事件:Bonsai 2 27B三值量化发布，5.9GB保留98.2%性能(20 条相关)→
「Infra」频道最新
- B200/H100 租金周内创新高，年内涨 47% 和 31% — TheZachMueller · 2026-11-02
- vikhyatk:通往奇点路上算力将交替出现过剩与短缺 — TheZachMueller · 2026-11-02
- Mac 端 PyTorch 10 月下载量达 329 万,环比涨 20.5% — LysandreJik · 2026-11-02
- CVSS 9.8 严重漏洞:ingress-nginx 可被未认证攻击者实现 RCE — evilsocket · 2026-11-02
- 内存涨价三倍，特斯拉把 Optimus 大脑内存砍掉三分之一 — aakashgupta · 2026-11-02
- 1.7B 本地模型 LFM3 在 MacBook 上首次答对曼城赛程查询 — NielsRogge · 2026-11-02