第三方将 5.95GB 三元压缩 Bonsai 2 权重级去审查,拒绝率 93.4%→0%
solyarisoftware · x · 2026-09-23
PrismML 此前发布仅 5.9GB 的三元压缩版 Qwen3.8-27B(即 Bonsai 2),第三方团队 dealignai 宣布在权重层面直接修改其拒绝行为,文件体积不变:
- 保持 27B 参数、5.95GB、约 1.7-bit 有效三元权重
- 视觉能力、off/low/xhigh 推理模式、PrismML 的 llama.cpp fork(CUDA/Metal/CPU)均保留
- 自测 HarmBench-320:原版拒绝率 93.4% → CRACK 版 0%
- MMLU 对照:39.69% → 38.46%,仅降 1.23 分
注意:以上均为修改者自测,非独立基准。作者感叹模型越做越小、运行者控制力越来越强——压缩模型的行为可以在权重层面被改写。
「模型」频道最新
- 用户抱怨 GPT-6 Sol 无视已配置技能,同配置 GPT-5.6 却正常 — Aber-so-richtig · 2026-09-23
- 4 个 agent 一个半小时,Opus 5.5 从零造出惊艳作品 — repligate · 2026-09-23
- 爆料人辟谣：本周不会有 Kimi 新模型，团队周五开始放假 — ChrisGPT · 2026-09-23
- Reddit 用户截图:GPT-5.6 Sol 对 Go 订阅用户免费开放 — sam619007 · 2026-09-23
- 风向又变：Opus 5.5 获好评，GPT-6 Sol 未登陆 ChatGPT 引争议 — koltregaskes · 2026-09-23
- Opus 5.5 成日常主力：更快更便宜，Pro/Max 用户获重置额度 — addyosmani · 2026-09-23