图像安全护栏要随政策自适应
Fudan-University · hf · 2026-07-16
这篇工作研究的是**“随政策变化而自适应”的图像安全护栏**：同一张图在不同产品、不同政策下，判定结果可能不同，因此不能把“图像是否安全”当成固定属性。 作者提出了 **PolicyShiftBench**：包含 2,000 个政策区分样本、265 张图像，每张图平均配有 7.55 个不同政策提示，用来测试模型是否真正根据当前政策做判断，而不是依赖静态的图像安全先验。随后提出 **PolicyShiftGuard**，用两阶段训练方案提升适应性： - **RP-SFT**：随机化政策监督微调 - **BP-Adapt**：用成对的“放行/拦截”边界样本做对比学习 实验显示，现有 VLM 和专用护栏在政策切换下都比较脆弱，而 PolicyShiftGuard 在 PolicyShiftBench 上取得了更好的政策敏感性能；7B 模型达到 **76.9 Avg. F1** 和 **72.1 Avg. PSS**，并且能迁移到 UnSafeBench 和 SafeEditBench。