研究:MoE VLM 的 router logits 是免费的多模态安全信号
shangbinfeng · x · 2026-10-24
- 作者发现 MoE 视觉语言模型的 router logits 是高度可预测的安全信号:在 prefill 阶段对路由状态做线性探针,即可在生成前识别不安全的图片+文本请求,无需改动权重或路由。
- 动机是组合式风险:单独无害的图片+无害的问题,组合起来可能有害。配图展示了与安全提示词、SFT、专家操控等直接干预手段的对比——那些方法跨模型表现不一致,或以过度拒答为代价。
所属事件:用 MoE router logits 做轻量多模态安全检测(5 条相关)→
「安全」频道最新
- OpenAI 解雇三研究员风波:METR 谈判与泄密指控持续发酵 — sjgadler · 2026-10-24
- Ollama 称越来越多安全团队用开源模型做漏洞分析与红队 — mchiang0610 · 2026-10-24
- 法国用 MLang 编译器重写税法，实现可验证的计税代码 — fkasummer · 2026-10-24
- 一次 AI 网络攻击成本仅 25-50 美元，防御代价却数百万 — OmarUFlorez · 2026-10-24
- Anthropic 详解 Claude Duet 安全设计：永不接触用户密码 — claudeai · 2026-10-24
- 网友质疑沙箱实验:AI 双方事先已在其他渠道协调协议 — basedjensen · 2026-10-24