开源红队工具 RISE 宣称攻破 OpenAI、DeepSeek 级图像模型安全护栏
dair_ai · x · 2026-10-15
安全公司 WhiteCircle 开源了红队算法 RISE，声称能绕过 OpenAI、DeepMind 等最新图像生成模型的安全护栏。
技术要点：
- RISE 会自动学习更有效的攻击提示词写法，无需额外训练
- 底层只用现成模型：开源 Qwen 负责生成攻击、Gemini Flash 做裁判
- 完全开源，防御方可以用同一套流程测试自己的图像模型
作者观点是 AI Safety 更需要的是更好的工具和工程（如更强的红队工具），而非空谈，这个项目就是一次示范。
所属事件:开源红队算法 RISE 攻破主流图像生成模型护栏(3 条相关)→
「安全」频道最新
- 安全研究员玩梗:AI 公司抓到一个内鬼,总数估计绝不是一 — dhadfieldmenell · 2026-10-15
- promptspeak-mcp-server:45 个工具给 Agent 行为加“执行前审批” — modelcontextprotocol · 2026-10-15
- 欧盟与中方谈判解除德企制裁，ASML 供应链命悬一人公司 — teortaxesTex · 2026-10-15
- Acemoglu 七问 AI,Gans 逐一回应引爆经济学界讨论 — joshgans · 2026-10-15
- 前红队专家提醒：科技、金融、法务等行业办公室应做窃听器排查 — gnukeith · 2026-10-15
- 欧盟官方公报发布首个 AI 标准 EN 18286:2026 — LuizaJarovsky · 2026-10-15