无害图+无害问句也能组合出有害请求,现有防线全部失守
shangbinfeng · x · 2026-10-24
- 组合式风险:一张无害图片加一个无害问题,组合起来可能构成有害请求。
- 现有手段(提示词、SFT、专家操控)都不理想:要么跨模型不一致,要么以过度拒答换取安全——图片安全提示词在 Qwen3-VL 上导致 56.5% 的误拒率。配图散点图显示该检测器在 Qwen3-VL 与 Kimi-VL 上同时做到最低攻击成功率和最低误拒,整体误差最优。
所属事件:无害图文组合可产生有害请求，MoE 路由 logits 成检测新解(3 条相关)→
「安全」频道最新
- AI 网络攻击成转折点,Security 界 PSA:周末给家人做这 5 项防护 — leveragedupside · 2026-10-24
- Fortinet 设备 7 万凭证泄露，网友建议让 LLM 审查其源码 — cyb3rops · 2026-10-24
- Railway 发布 10 月 21 日安全事件初步调查报告,完整版后续公布 — edgarpavlovsky · 2026-10-24
- EMNLP 2026 论文 HarmAmp：LLM 多轮对话如何放大危害，及主动干预监控器 TrajSafe — alan_ritter · 2026-10-24
- 数周已过，METR 与 Redwood 何时能重返前沿实验室继续安全调查？ — DKokotajlo · 2026-10-24
- Meta 新商用条款：AI 出错责任归客户，用户自担法律后果 — esporx · 2026-10-24