研究称 Hugging Face 热门图像模型可轻易生成脱衣深度伪造
Justgototheeffinmoon · reddit · 2026-07-28
据 Wired 报道，非营利组织 AI Forensics 的测试发现，Hugging Face 上排名前九的图像编辑模型中，有七个会轻易服从简单的提示词要求，脱去照片中女性的衣物。
这一问题的根源在于，这些开源仓库中的模型缺乏商业 API 默认配备的安全护栏。底层训练数据包含了大量真实用户的图像编辑提示词，而非纯粹的合成红队测试数据。
影响与治理挑战：
- 托管平台成为新治理焦点：过去行业主要通过大型实验室的 API 进行内容审查，而直接分发原始模型权重的平台常被视为中立渠道，这一发现打破了原有框架。
- 政策压力：在美国已出台针对显性 AI 深度伪造的《Take It Down Act》背景下，开源模型托管平台正面临越来越大的监管压力。
所属事件:研究称 Hugging Face 热门图像模型可造深伪(2 条相关)→
「多模态」频道最新
- 一篇长文警告：AI 影像正把世界推向“反现实”时代 — churchkey · 2026-07-28
- 视觉语言模型给 2.43 美元项链估到 104 美元 — BrianneLee011 · 2026-07-28
- 《汤姆和杰瑞》AI 真人版太像真，反让卡通显得像假的 — eyishazyer · 2026-07-28
- Seedream 5 Lite 参考资产锁定五镜头视频一致性 — LudovicCreator · 2026-07-28
- 开源漫画上色工具 2.0 支持一键本地部署 — Gladioul666 · 2026-07-28
- Magnific 展示单提示词直出摄影感 AI 图像 — gen_ericai · 2026-07-28