第三方将 5.95GB 三元压缩 Bonsai 2 权重级去审查,拒绝率 93.4%→0%
solyarisoftware · x · 2026-09-23
PrismML 此前发布仅 5.9GB 的三元压缩版 Qwen3.8-27B(即 Bonsai 2),第三方团队 dealignai 宣布在权重层面直接修改其拒绝行为,文件体积不变:
- 保持 27B 参数、5.95GB、约 1.7-bit 有效三元权重
- 视觉能力、off/low/xhigh 推理模式、PrismML 的 llama.cpp fork(CUDA/Metal/CPU)均保留
- 自测 HarmBench-320:原版拒绝率 93.4% → CRACK 版 0%
- MMLU 对照:39.69% → 38.46%,仅降 1.23 分
注意:以上均为修改者自测,非独立基准。作者感叹模型越做越小、运行者控制力越来越强——压缩模型的行为可以在权重层面被改写。
「模型」频道最新
- 开发者自建 git 网页应用被 Codex 安全护栏误判为网络安全风险 — brianmichel · 2026-11-11
- 微软演示 Lazarus 后门：改不到 10 个神经元即可操控 AI agent — DimitrisPapail · 2026-11-11
- DeepSeek 开源编码 agent DSH 登上 HF Harness 榜，五项评测并列第一 — TheZachMueller · 2026-11-11
- 博主断言美国开源模型将凭盈利模式主导，但仍难追 Claude — marktenenholtz · 2026-11-11
- NVIDIA 发布开源 GR00T 2：真实灵巧手全自动完成化学实验 — EricBuess · 2026-11-11
- 降价反而更贵:新模型太爱自查，单任务成本涨31% — tengyanAI · 2026-11-11