MARS:仅用文本拒绝方向实现多模态安全转向,免采多模态安全数据
MHUGLab · hf · 2026-10-20
特伦托大学 Moreno D'Inca、Nicu Sebe、Massimiliano Mancini 发表论文,研究多模态大模型(MLLM)的安全对齐问题。
- 现有方法依赖难以收集、且需按模态重新采集的不安全多模态数据,收集过程还涉及伦理与法律顾虑
- 论文验证:直接从 LLM 骨干提取的文本拒绝方向可跨模态泛化(图像、视频),初步结果证实这一点
- 有效性受层选择、转向强度与跨模态对齐影响——跨模态对齐问题会把安全的多模态输入伪异地转向拒绝
- 提出 MARS(Modality-Agnostic Refusal Steering):轻量、免训练的方法,无需多模态安全数据即可注入多模态安全能力
「安全」频道最新
- 可解释性学者讨论:早期单语义特征能否在 RLHF 后留存 — davidmanheim · 2026-10-20
- Vals AI 评测:DeepSeek V4.1 Flash 攻防网络任务击败 GPT-6 Sol — Hesamation · 2026-10-20
- 微软在巴黎发布主权云新能力,覆盖公私云敏感负载 — satyanadella · 2026-10-20
- 联想论文揭示:安全护栏基准测的是标注政策,不是检测能力 — Vahid Jebraeeli · 2026-10-20
- Cisco 工程师复盘：把 AI 卖进五大银行,绕开 12 个月合规审查 — AI Engineer · 2026-10-20
- 微软 365 Copilot 未读邮件即泄露机密，病根是 1988 年的 confused deputy — YvesMulkers · 2026-10-20