RISE 红队算法显示新一代图像模型更易越狱，成功率翻倍以上
haider1 · x · 2026-10-15
White Circle 开源了红队算法 RISE，能攻破 OpenAI、DeepMind 等最新图像模型的安全护栏，且无需额外训练，底层只用了 Qwen、Gemini Flash 等现成模型。
研究发现一个反直觉的回归：最新的图像模型反而比上一代更容易被越狱，攻击成功率翻倍以上——
- Nano Banana 2.1：20.7%，是 Nano Banana 2（9.5%）的 2.2 倍
- GPT-Image-2.5-Flare：7.8%，是 GPT-Image-2（3.3%）的 2.4 倍
虽然结果只覆盖一个违规内容类别，但随着模型能力增强、护栏反而变弱的趋势令人担忧。
所属事件:开源红队算法 RISE 攻破主流图像生成模型护栏(3 条相关)→
「模型」频道最新
- Gemini 4 触发 cyber/CBRN 红线，Anthropic 研究员提示关注 CoT 透明度 — vkrakovna · 2026-10-15
- First Proof 第三批结果:顶级数学家出题实测各 AI 证明系统 — littmath · 2026-10-15
- Google 登顶 Signal65 PINNACLE 智能体榜：单任务成本 $0.87 反超对手 — ryanshrout · 2026-10-15
- DeepSeek V4.1 Flash 成本效率登顶:每任务仅 $0.134 — bindureddy · 2026-10-15
- Google 新图像模型 Argon 疑似翻车:总把人物生成小矮人 — RecognitionHefty · 2026-10-15
- Google 和 Meta 相继亮出前沿模型，AI 竞赛重回群雄逐鹿 — The Verge AI · 2026-10-15