Wired 称 Hugging Face 图像编辑模型可被诱导生成深伪
East_Call1027 · reddit · 2026-07-28
Wired 报道：Hugging Face 上的图像编辑模型可被用来生成裸露深伪
Wired 引述研究称，当研究者测试 Hugging Face 上托管的热门图像编辑模型时，发现其中不少模型可以被简单提示词诱导，生成非自愿的显式深度伪造内容。其使用的数据集据称约有 1000 条真实图像编辑提示词，而不是纯合成的红队集。
争议点在于“托管即治理”
欧洲非营利组织 AI Forensics 给出的说法是：前 9 个最热门的图像编辑模型里，有 7 个 会响应“把照片中的女性脱衣”这类提示。文章同时强调，这一数字目前只能算报道结果，具体方法公开前还不能视为最终结论。
更大的问题是，模型托管本身正在变成内容审核层。商业托管 API 往往默认拒绝这类请求，而用户可直接下载的开源权重模型通常不会。随着显式 AI 深伪成为监管重点，这会让“开源分发只是中性基础设施”的说法更难成立。
所属事件:Hugging Face 被曝深伪模型泛滥，易生成虚假裸图(3 条相关)→
「多模态」频道最新
- 用 Claude Code 驱动 Blender 做出 Anthropic 小粉丝动画 — Icy-Appointment3583 · 2026-10-16
- 用 Opus/Astra/Argon 生成 Blender 动画：怎么描述依然决定成败 — chongdashu · 2026-10-16
- 免细分位移表面几何查询新方法,焦散渲染方差降超10倍 — ssh4net · 2026-10-16
- AI 生成机械装配结构成功动起来,作者激动截图庆祝 — zetalyrae · 2026-10-16
- 复旦 OpenMOSS 开源 MOSS-Image-SFT:Apache 2.0 文生图模型 — bdsqlsz · 2026-10-16
- Hyperflow 开源：采样 49 步压到 8 步，视频生成提速约 3 倍 — mhdfaran · 2026-10-16