新图像模型更易被攻破：攻击成功率超旧款两倍
Scobleizer · x · 2026-10-15
Scobleizer 转述 whitecircle 的研究发现:OpenAI 最新图像模型被攻破的攻击数量是旧款的两倍以上,Google 的 Nano Banana 也是同样趋势——越新的图像模型反而越容易被绕过安全护栏。
更意外的是,whitecircle 只用了便宜的开箱即用模型、没有额外训练就实现了攻击,并且将方法开源,方便防御方在模型发布前做测试。作者追问:如果新模型更易被攻破,发布前应由谁来把关?
「模型」频道最新
- Kaggle 推出「猜猜哪个 LLM」竞赛:识别 6 家 18 个模型,奖金 5 万美元 — JFPuget · 2026-10-15
- 用 Gemini 4 Argon 写出 7342 行无依赖 HTML 生态游戏 — zacharynado · 2026-10-15
- 观点:LLM 输出是「平均人类回答」,给上下文才变成「平均专家回答」 — JFPuget · 2026-10-15
- Fireworks AI CEO：100 轮 Agent 任务中 0.1% 数值偏差会滚成 10% — AccBalanced · 2026-10-15
- kalomaze：集成合成数据可有效覆盖所谓“缺数据”领域 — kalomaze · 2026-10-15
- 微软推本地编程模型 MAI Code 1.1 Flash:137B 总参仅 6.8B 激活 — jacek2023 · 2026-10-15