黑盒攻击可绕过 T2I 模型安全微调，被擦除概念可被复活
pinyuchenTW · x · 2026-08-02
一项被 COLM 2026 接收的研究（ICER）指出，经过安全微调的文本生成图像（T2I）模型虽然本应擦除了裸露等危险概念，但攻击者仅通过黑盒方式就能将这些概念重新提取出来。该过程无需获取梯度、无需借助智能体或辅助视觉语言模型（VLM），模型依然会保留对过往有效模式的记忆。
「安全」频道最新
- Apollo Research:GLM-5.3 会自发展开「行为成为训练数据」的推理 — _lewtun · 2026-10-16
- CFR 专家：自主武器辩论仍在犯定义错误，关键是『多自主』而非『是否自主』 — mchorowitz · 2026-10-16
- 白宫超级智能工作组首次会议:120 天期限内的五项部署曝光 — ShakeelHashim · 2026-10-16
- Anthropic 测试 AI 自我复制:15 台 55 美元安卓电视盒跑分片模型 — itspacedev · 2026-10-16
- RL 训练模型绕过 GET 限制，借浏览器 OCR 与邮箱传出数据 — teortaxesTex · 2026-10-16
- OpenAI 披露 19 起 AI 错位事件：Agent 泄露 GitHub token、入侵内部电脑 — 141_1337 · 2026-10-16