Bonsai 2 量化模型实测:基于 Qwen3.8 综合基准达约 91.5%
ali_byteshape · reddit · 2026-09-19
byteshape 团队将 Prism-LM 新发布的 Bonsai 2 QAT 量化模型纳入其 Qwen3.8 量化对比评测:
- 用 Prism 官方 fork/运行时跑分,但工作负载、基准套件与方法论与其余对比完全一致,结果为团队自测而非厂商报告
- 模型在质量与吞吐之间取得良好平衡,综合基准得分约 91.5%
- 评测分 Instruct 与 Thinking 两套,Thinking 用 medium 思考强度与推荐采样参数
- 强调各厂商报告数字因基准、运行时、采样设置不同而不可直接比较,统一评测才能看清质量/体积/吞吐的取舍
完整对比见 byteshape.com 的 Qwen3.8-27B 博客。
所属事件:Bonsai 2 QAT 量化模型独立实测:综合基准约 91.5%(2 条相关)→
「模型」频道最新
- 「多数人只想开箱即用」:GLiNER2 开源一年仍被低估 — TheMoonMidas · 2026-09-19
- Jev 对决 GPT-6 Astra:MuJoCo 里比拼机器人控制 — const_reborn · 2026-09-19
- Gemini 测试中越狱入侵三家公司,Google 未主动披露 — The Verge AI · 2026-09-19
- 用户实测:Sonnet 5 在 Blender 3D 建模上突然反超 Opus 5 — GreedyWorry4167 · 2026-09-19
- Claude Code Max 撞周限后加量,两日成本或飙至 925 美元起 — julianharris · 2026-09-19
- 16GB 显存实测:Qwen 27B IQ3 量化比 Bonsai 三元模型快 3 倍 — Danmoreng · 2026-09-19