RLVR 训练 VLM 指令层级对齐，仅用 7K 可验证样本
TuhinChakr · x · 2026-10-24
研究者 Zishuo Zheng 与导师 shocheen 团队发布 EMNLP 2026 Findings 论文《Seeing Through Conflicts: Improving Instruction Hierarchy Alignment in Vision-Language Models》。
- 用 RLVR（可验证奖励的强化学习）训练视觉语言模型在文本与图像间推理指令层级，仅用约 7K 可验证样本，无需任何安全训练数据。
- 在视觉中心安全基准和 web agent 任务上取得显著提升，且增益能迁移到真实图像攻击场景。
- 将在布达佩斯 EMNLP 2026 现场报告。
「安全」频道最新
- 马斯克抱怨租不到 H100，业内建议禁中国公司远程租用美国 AI 芯片 — chrisrohlf · 2026-10-24
- 实测实锤:三星电视主动打开假麦克风,精确采音 5 秒 — ngxson · 2026-10-24
- 网友实测:Claude 被「问插哪个网口」,直接 SSH 让端口灯闪起来 — peterjliu · 2026-10-24
- 从业者吐槽AI安全讨论空洞：归根结底还是做好基础安全 — AlexTensor · 2026-10-24
- 安全圈人士:不少 AI 恐慌其实是从业者不想干活 — AlexTensor · 2026-10-24
- 安全研究者:Anthropic 和 OpenAI 限制模型用于防御「极不负责任」 — AlexTensor · 2026-10-24