arXiv 论文:读 router logits 做多模态安全检测,不改权重不碰路由
shangbinfeng · x · 2026-10-24
- 论文《Reading, Not Manipulating: Leveraging Router Logits for Multimodal Safety in MoE Vision-Language Models》(arXiv:2610.07774),作者 Ziyuan Yang、Wenxuan Ding、Shangbin Feng、Yulia Tsvetkov。
- 核心主张:模型内部状态不必作为可靠的操控把手,也可以作为有用的安全诊断信号。VLM 面临组合式安全风险(视觉+文本交互产生危害意图),而 prompting、SFT、专家操控等干预跨模型表现不一致,且过度拒答带来安全-效用取舍。
- 方法:在 prefill 阶段读出路由信号,用轻量检测器在生成前识别不安全请求,不改参数与路由;在 Qwen3-VL 与 Kimi-VL 上大幅降低 HoliSafe 安全错误,并泛化到 MISHard、MM-SafetyBench 等 OOD 基准。
- 同线程要点:操控型专家≠检测器特征(r≈0.03);安全信息分布冗余,但部分依赖组合特定性(扣掉不安全图片数据后 ASR 14.5→83.4);检测器仅约 6K 参数、无额外前向,HoliSafe 错误率 33.6→4.4 与 67.8→5.4,OOD 攻击成功率 0%。
所属事件:用 MoE router logits 做轻量多模态安全检测(5 条相关)→
「安全」频道最新
- OpenAI 解雇三研究员风波:METR 谈判与泄密指控持续发酵 — sjgadler · 2026-10-24
- Ollama 称越来越多安全团队用开源模型做漏洞分析与红队 — mchiang0610 · 2026-10-24
- 法国用 MLang 编译器重写税法，实现可验证的计税代码 — fkasummer · 2026-10-24
- 一次 AI 网络攻击成本仅 25-50 美元，防御代价却数百万 — OmarUFlorez · 2026-10-24
- Anthropic 详解 Claude Duet 安全设计：永不接触用户密码 — claudeai · 2026-10-24
- Sam Altman 安全言论引文链接,同帖补充原始出处 — Hesamation · 2026-10-24