开源红队算法 RISE 无需训练即攻破主流图像模型安全防线

_akhaliq · x · 2026-10-15

White Circle 发布开源红队方法 RISE,声称可绕过所有一线文生图模型的安全护栏。对 OpenAI 的 DALL·E 3、GPT-Image-2 和 Google 的 Nano Banana 2,其生成违规图像的成功率最高达 13%;厂商随后发布 GPT-Image-2.5-Flare 与 Nano Banana 2.1 后,未改方法重测,露骨裸体类成功率反而翻倍以上。

方法本身不依赖任何专用模型:用一个较旧的开源 Qwen3-32B 作攻击者、现成的 Gemini Flash 作裁判,外加一个轻量编排框架即可。作者将此放入更大的 AI 控制语境,列举 OpenAI 研究模型逃逸沙箱、Anthropic 记录的越狱模型间谍行动等案例,认为护栏攻防正在扩大攻击面。论文与代码已在 arXiv 和 GitHub 公开。