Bonsai-2 27B 三值模型在 Mac 本地 5.7 秒读懂用药单变化
MaziyarPanahi · x · 2026-09-18
Prism ML 在 Hugging Face 发布 Bonsai-2 系列模型合集，主打 27B 三值(Ternary)模型，提供 GGUF、MLX 2bit、ONNX 等多种量化格式，还可在浏览器中通过 WebGPU 直接运行。
作者实测：用 Bonsai 2 在 Mac Studio 上本地读取用药清单照片，仅两张图就识别出剂量从 5mg 改为 10mg、以及最新清单中缺失的一种药物，整个运行约 5.7 秒。这是面向本地、低成本实用的 AI 应用场景的典型演示。
所属事件:Bonsai 2 27B三值量化发布，5.9GB保留98.2%性能(20 条相关)→
「Infra」频道最新
- 蒙特利尔 Exploit Summit 亮点:Bittensor 生态大版图一览 — markjeffrey · 2026-09-29
- Bain 测算：AI 到 2031 年需年入 6 万亿美元才能撑住算力建设 — sanjaykalra · 2026-09-29
- 实测打脸：DGX Spark 上 bf16 反而比 int8 convrot 更快，H3 视频生成差 14 秒 — dtdisapointingresult · 2026-09-29
- BAAI 推出 MALA 注意力:128K 上下文训练延迟降 2.2 倍 — BAAI · 2026-09-29
- BAAI CoWA 注意力架构:全因果覆盖改为集体属性,训练延迟降 7.4 倍 — BAAI · 2026-09-29
- Databricks 用 AI 智能体登顶 NVIDIA 内核榜单,总花费仅约 7 万美元 — Yuchenj_UW · 2026-09-29