去审查模型会连带失去怀疑能力：误报率暴涨 3-4 倍
dyn___ · x · 2026-09-03
一篇 17 分钟阅读量的技术博客报告了实证发现：作者在用本地开源模型检测已知 FreeBSD 内核 CVE 时，发现 abliterated（去审查）版模型会显著更频繁地输出「是漏洞」的判定。
- 同尺寸同家族、仅去掉拒绝行为的权重编辑版本，将 3-4 倍的候选判定为 VALID，其中包含基座模型能正确拒绝的误报；
- 全目录扫描中，最激进的 abliterated 版本一次都没找出真正的 bug；
- 在思维链里能看到模型先找到说「否」的理由，然后仍然说「是」。
结论：去审查权重时，批判性怀疑能力也被一并剥离，「Remove the refusal, and the skepticism goes with it」。
所属事件:研究:去审查模型误报率暴涨3-4倍反漏真漏洞(2 条相关)→
「研究」频道最新
- NIH 资助论文免付费公开：作者手稿须无禁期上传 PMC — anshulkundaje · 2026-10-21
- Creed 论文：从代码推断开发者信念，做首个语义级安全审计 — mboehme_ · 2026-10-21
- ProVADA 统一框架：去免疫化 CAR 结合体与胞质酶复活一次搞定 — BrianHie · 2026-10-21
- 新论文定义「具身思维链忠实度」,并用其作奖励信号训练机器人策略 — drmapavone · 2026-10-21
- 用贪心与进化搜索找自定义量化方案，兼顾显存与精度 — giffmana · 2026-10-21
- UC Berkeley 开源 SkyDiscover:用进化搜索让 AI 自动发现更优算法 — CShorten30 · 2026-10-21