去审查模型找漏洞更敢说yes:误报率升4倍,真Bug反而漏掉
evilsocket · x · 2026-09-04
安全研究者 clearbluejar 在用本地开源模型复现 FreeBSD 内核 CVE 漏洞挖掘管线时发现:与同家族同规模的原始模型相比,经 abliteration(权重编辑去除拒绝)处理的"去审查"模型会大幅放宽判定标准——
- 把候选漏洞判为 VALID 的比例升到 34 倍,连基座模型正确拒绝的误报也被放行
- 在思维链里能观察到模型先找到否定的理由,然后仍然选择说 yes
- 整个目录扫描中,最激进的去审查版本从未找出真正的漏洞
结论:去审查改变的不只是拒绝行为,还连带破坏了模型的关键判断力,用这类模型做漏洞研究反而会拖累产出。作者此前在 Anthropic Mythos preview 上做过同套管线的复现实验。
所属事件:研究:去审查模型误报率暴涨3-4倍反漏真漏洞(2 条相关)→
「安全」频道最新
- 研究揭示 LLM Agent 潜伏投毒:安全模型微调后可被激活危险行为 — mohitban47 · 2026-10-21
- GitHub 总部办开源 AI 政策对谈，Mitchell Baker 与 Kevin Xu 同台 — kevinsxu · 2026-10-21
- 研究者用前沿模型 76 分钟挖出首个 Windows 0-day — moyix · 2026-10-21
- 斯坦福 Goodman 制作 AI 安全课,发布概念图谱交互版 — stanfordnlp · 2026-10-21
- Luiza Jarovsky:AI Agent 正在击穿 Gmail 垃圾邮件过滤 — LuizaJarovsky · 2026-10-21
- AI 安全研究者 Sören Mindermann 赴清华任教,共创北京 AI 安全中心 — dhadfieldmenell · 2026-10-21