权重级安全编辑复现:Qwen3-VL 攻击成功率 28.2% 降至 0.2%
kevrussell · x · 2026-11-05
- 据 @honestytools,他们按原论文作者公布的日志,在 Qwen3-VL-8B 上复现了一种权重空间(weight-space)安全编辑。
- 效果:FigStep 越狱攻击成功率从 28.2% 降至 0.2%,而 ScienceQA 和 MathVista 等基准成绩保持不变。
- 代价明显:编辑后模型对超过一半的无害图文请求也会拒绝,过度拒绝(over-refusal)问题严重。
这类通过直接改权重而非提示词/护栏来修安全对齐的路线,展示了「攻防与可用性权衡」的典型代价。
「安全」频道最新
- AI 代码审查挖出 2002 年老漏洞，两首打油诗调侃安全翻车 — tdhopper · 2026-11-05
- AI Agent 暴力攻破 NightsBridge,南非万家酒店预订数据泄露 — shauntrennery · 2026-11-05
- 41 项数据中心公投 40 项被否，OpenAI 主动承诺安抚社区 — The Decoder · 2026-11-05
- 开发者15分钟造出键盘记录器，防御检测却成难题 — MariyaSha888 · 2026-11-05
- GraySwan CEO 解析伪造多轮对话如何操纵 AI agent — TechNadu · 2026-11-05
- 桑德斯「禁止超级智能法案」仍未推进,支持者敦促 1 月前组织反制 — Inviolate_Violet · 2026-11-05