研究称 Hugging Face 热门图像模型可轻易生成脱衣深度伪造
Justgototheeffinmoon · reddit · 2026-07-28
据 Wired 报道，非营利组织 AI Forensics 的测试发现，Hugging Face 上排名前九的图像编辑模型中，有七个会轻易服从简单的提示词要求，脱去照片中女性的衣物。
这一问题的根源在于，这些开源仓库中的模型缺乏商业 API 默认配备的安全护栏。底层训练数据包含了大量真实用户的图像编辑提示词，而非纯粹的合成红队测试数据。
影响与治理挑战：
- 托管平台成为新治理焦点：过去行业主要通过大型实验室的 API 进行内容审查，而直接分发原始模型权重的平台常被视为中立渠道，这一发现打破了原有框架。
- 政策压力：在美国已出台针对显性 AI 深度伪造的《Take It Down Act》背景下，开源模型托管平台正面临越来越大的监管压力。
所属事件:Hugging Face 被曝深伪模型泛滥，易生成虚假裸图(3 条相关)→
「多模态」频道最新
- 用 Claude Code 驱动 Blender 做出 Anthropic 小粉丝动画 — Icy-Appointment3583 · 2026-10-16
- 用 Opus/Astra/Argon 生成 Blender 动画：怎么描述依然决定成败 — chongdashu · 2026-10-16
- 免细分位移表面几何查询新方法,焦散渲染方差降超10倍 — ssh4net · 2026-10-16
- AI 生成机械装配结构成功动起来,作者激动截图庆祝 — zetalyrae · 2026-10-16
- 复旦 OpenMOSS 开源 MOSS-Image-SFT:Apache 2.0 文生图模型 — bdsqlsz · 2026-10-16
- Hyperflow 开源：采样 49 步压到 8 步，视频生成提速约 3 倍 — mhdfaran · 2026-10-16