BitNet/三元模型进展跟踪：Bonsai 27B 与 Maple
pmttyji · reddit · 2026-08-19
汇总 1-bit/2-bit/Ternary/BitNet 模型的最新动态：
- Bonsai 系列：27B 版本的 CUDA 和 Vulkan 后端支持已合并至 llama.cpp 主线，CUDA 优化带来 15-40% 吞吐提升。
- Maple-Preview：20B-A1B 模型在 Mac Mini M4 上达 200+ t/s，iPhone 上达 120+ t/s。
- Mach-1：35B 模型在消费级笔记本上可达 120 t/s。
- 其他：列出了 Neutrino-8B、Pestle-27B-Ternary（医疗）及相关图像模型和 GGUF 量化资源。
「Infra」频道最新
- Oracle 一周跌 12%、较 6 月高点近腰斩，市场用脚投票 OpenAI 敞口 — alvelda · 2026-10-16
- 美国数据中心暂停令突破 400 起，AI 多头称这反而利好 AI 长期发展 — kevinsxu · 2026-10-16
- 微软研究院发布 Magnetar：最快 zkVM，比现有方案快 10-39 倍 — jedisct1 · 2026-10-16
- Bonsai 2 2B 端侧模型登 iPhone:120 token/s,速度两倍于 Qwen 3.5 2B — cephaloform · 2026-10-16
- AI 挤占产能：三星因 E-glass 短缺下调 Q4 手机产量 — zephyr_z9 · 2026-10-16
- 美国白宫科技政策主任谈 Empire AI:纽约共享算力基建 — mkratsios47 · 2026-10-16