PrismML 三值压缩 Bonsai 2 27B 上线 OpenRouter,权重仅约 8.5GB
gajesh · x · 2026-09-19
PrismML 的推理模型 Ternary Bonsai 2 27B 已在 OpenRouter 上线。该模型基于 Qwen3.8-27B 衍生,支持编码、数学、工具调用与图像理解,上下文窗口 262K,默认开启思考模式且推理强度默认为 xhigh。
核心卖点是三值(ternary)压缩:将语言模型权重压缩到约 8.5GB,同时在 PrismML 14 项思考模式基准上保留基础模型 98.2% 的平均分,可在消费级硬件上高效推理。定价为输入 $0.075 / 输出 $0.50 每百万 token。
所属事件:Bonsai 2 27B三值量化发布，5.9GB保留98.2%性能(20 条相关)→
「Infra」频道最新
- 蒙特利尔 Exploit Summit 亮点:Bittensor 生态大版图一览 — markjeffrey · 2026-09-29
- Bain 测算：AI 到 2031 年需年入 6 万亿美元才能撑住算力建设 — sanjaykalra · 2026-09-29
- 实测打脸：DGX Spark 上 bf16 反而比 int8 convrot 更快，H3 视频生成差 14 秒 — dtdisapointingresult · 2026-09-29
- BAAI 推出 MALA 注意力:128K 上下文训练延迟降 2.2 倍 — BAAI · 2026-09-29
- BAAI CoWA 注意力架构:全因果覆盖改为集体属性,训练延迟降 7.4 倍 — BAAI · 2026-09-29
- Databricks 用 AI 智能体登顶 NVIDIA 内核榜单,总花费仅约 7 万美元 — Yuchenj_UW · 2026-09-29