1-bit 版 Qwen3-1.7B 仅 247MB,成绩超 Bonsai-1.7B
d77chong · reddit · 2026-10-12
Precision Numerics 发布开源 1-bit 模型 Boole-1.7B(基于 Qwen3-1.7B 量化):
- 权重仅 247MB,比 BF16 小 13.9 倍
- 在其 10 项任务评测中平均保留 BF16 模型 85.9% 的分数,超过 1-bit Bonsai-1.7B,接近 1.58-bit 版本;GSM8K 74.7、MATH-500 49.8、HumanEval+ 53.7
- 支持 vLLM、llama.cpp,也可在浏览器本地体验
权重、demo 代码与博客均已开源,团队表示后续会为开源社区发布更强模型。
「模型」频道最新
- Meta 发布 Muse Wonder:AA 指数 56 分,仅次于 Claude Opus 5.5 — parth007_96 · 2026-10-13
- 曝 Meta 新模型 Muse Wonder 主打个人智能体,基准对标 Claude 与 GPT-6 — RihardJarc · 2026-10-13
- Muse 西瓜模型跑分曝光:多项基准逼近 Claude Opus 5.5 — brandon_galang · 2026-10-13
- SubQ Snap 决策模型发布:384K 长上下文 2-3 秒出决策,百万 token 仅 5 美分 — ryanallred · 2026-10-13
- Muse Wonder 定价曝光:百万上下文,输入 $4/输出 $20 — scaling01 · 2026-10-13
- Bindu Reddy:只有竞争才能逼 Anthropic/OpenAI 放出内部最强模型 — bindureddy · 2026-10-13