专题 · FULL STORY

PrismML 三值量化 27B:宣传跑分遭实测打脸

PrismML 发布基于 Qwen3.8 27B 的三值量化模型,宣称体积仅 5.9GB 且保留全精度 98.2% 跑分,随即遭社区实测质疑。Reddit 用户在 16GB 显存上对比发现,Qwen 27B 的 IQ3_XXS 量化方案速度比 Bonsai 快约 3 倍。

2026-09-19 ~ 2026-09-20 · 2 集 · 4 条

第 1 集 · PrismML 三值量化 27B 模型 98.2% 跑分遭实测质疑(2026-09-19,2 条)

PrismML 发布基于 Qwen3.8 27B 的 Ternary Bonsai 2 27B,采用三值量化,体积仅 5.9GB,宣称保留全精度 98.2% 的综合基准性能。但本地 AI 社区成员实测后炮轰该数据过度营销,指出 98.2% 是在 H100 + vLLM、完整思考模式下挑选 14 个静态基准拼出来的结果,在真实 agent 任务上表现一塌糊涂,跑分与实际体验严重脱节。

第 2 集 · 社区实测 16GB 显存极限量化:Qwen 27B 比 Bonsai 快 3 倍(2026-09-19,2 条)

Reddit 用户在 16GB 显存上实测两种本地可跑的 27B 级量化方案:Qwen3 27B IQ3XXS(10.18GiB)与 prism-ml 的 Ternary-Bonsai-2-27B(三值化+PQ20,6.42GiB)。结果显示 Qwen 的 IQ3 量化在速度上约为 Bonsai 三元模型的三倍,而 27B 模型经极限量化后仍能正常工作,引发社区对极限量化方案性能权衡的讨论。