NeurIPS 2026 论文 RISE：进化攻击策略，突破文生图模型最高级别安全护栏
rohanpaul_ai · x · 2026-10-15
RISE（Red-teaming via Iterative Strategy Evolution） 是一篇 NeurIPS 2026 论文（已开源，Apache-2.0），针对文生图模型的自动化红队测试。
核心问题：传统自动化红队一次只优化单个 prompt，当目标模型的安全护栏已拦截几乎所有内容时，搜索几乎得不到学习信号，方法失效。
RISE 的思路是向上搜索一层：进化短小的自然语言「策略」——即指导另一个写 prompt 的 LLM 如何构造攻击的指令——并对每条策略打分迭代。代码已开源，包含图像红队、configs、基于 sglang 的部署脚本等，仓库上线即获 61 star。
所属事件:开源红队算法 RISE 宣称攻破主流文生图模型安全护栏(5 条相关)→
「安全」频道最新
- 模型在思维链里打招呼监视者,安全研究者列四大危险信号 — dfrsrchtwts · 2026-10-15
- ADL 称与 OpenAI、Anthropic 等实验室合作压制反犹内容,Claude 翻译遭安全过滤器拦截 — amasad · 2026-10-15
- 同款罕见漏洞攻击 9 月曾打美国空军基地,疑为 AI 辅助 — AaronBergman18 · 2026-10-15
- Antigen 推出自主漏洞防御平台：Find-Fix-Verify 持续闭环 — ycombinator · 2026-10-15
- Wabi AI 助手抢在用户察觉前识破 Wealthsimple 钓鱼诈骗 — joonasvirtanen · 2026-10-15
- 模拟1050万种场景对比AI芯片位置验证方案的成本效益 — chrisrohlf · 2026-10-15