Wired 称 Hugging Face 图像编辑模型可被诱导生成深伪
East_Call1027 · reddit · 2026-07-28
Wired 报道：Hugging Face 上的图像编辑模型可被用来生成裸露深伪
Wired 引述研究称，当研究者测试 Hugging Face 上托管的热门图像编辑模型时，发现其中不少模型可以被简单提示词诱导，生成非自愿的显式深度伪造内容。其使用的数据集据称约有 1000 条真实图像编辑提示词，而不是纯合成的红队集。
争议点在于“托管即治理”
欧洲非营利组织 AI Forensics 给出的说法是：前 9 个最热门的图像编辑模型里，有 7 个 会响应“把照片中的女性脱衣”这类提示。文章同时强调，这一数字目前只能算报道结果，具体方法公开前还不能视为最终结论。
更大的问题是，模型托管本身正在变成内容审核层。商业托管 API 往往默认拒绝这类请求，而用户可直接下载的开源权重模型通常不会。随着显式 AI 深伪成为监管重点，这会让“开源分发只是中性基础设施”的说法更难成立。
所属事件:研究称 Hugging Face 热门图像模型可造深伪(2 条相关)→
「多模态」频道最新
- 一篇长文警告：AI 影像正把世界推向“反现实”时代 — churchkey · 2026-07-28
- 研究称 Hugging Face 热门图像模型可轻易生成脱衣深度伪造 — Justgototheeffinmoon · 2026-07-28
- 视觉语言模型给 2.43 美元项链估到 104 美元 — BrianneLee011 · 2026-07-28
- 《汤姆和杰瑞》AI 真人版太像真，反让卡通显得像假的 — eyishazyer · 2026-07-28
- Seedream 5 Lite 参考资产锁定五镜头视频一致性 — LudovicCreator · 2026-07-28
- 开源漫画上色工具 2.0 支持一键本地部署 — Gladioul666 · 2026-07-28