三值 2-bit 模型 Bonsai-2-27B GGUF 版登 Hugging Face 热门
dealignai · hf · 2026-09-20
PrismML 的 Bonsai-2-27B-Ternary 三值量化模型 GGUF 版本登上 Hugging Face 热门榜。该模型采用 ternary 2-bit 量化与混合注意力（hybrid-attention）架构，支持 llama.cpp、CUDA、Metal 等后端，主打 on-device 端侧推理，也可导出 ONNX，定位是在消费设备上低成本运行 27B 级模型。
「Infra」频道最新
- SpaceX 10 万颗 Starlink V3 卫星星座获 FCC 批准 — ns123abc · 2026-09-20
- 开源工具 jevcache:模型决策结果缓存,重复调用零成本零延迟 — JiliJeanlouis · 2026-09-20
- 9000 人参会的 2026 AI Infra Summit 要点复盘 — karlfreund · 2026-09-20
- 大脑仅 20 瓦,类脑计算能否让 AI 摆脱耗电困局? — burny_tech · 2026-09-20
- Pedro Domingos 断言:ASML 是全球 AI 供应链的单点故障 — pmddomingos · 2026-09-20
- LexiPanel 开源:llama.cpp 推理服务器的一站式 Web 管理面板 — W61k3r · 2026-09-20