新研究：持续学习保住 Deepfake 检测准确率却加剧不公平
mundt_martin · x · 2026-10-25
不来梅大学 OWL-ML 团队发布预印本《Time to Fake It: Continual Machine Learning Intensifies Unfairness in Deepfake Detection》。
- 团队按发布时间顺序排列 11 个真实 deepfake 生成方法/数据集（从 2019 年的 FaceForensics++ 到 2023 年基于 Stable Diffusion 的假脸），让检测器依次持续训练，并比较 rehearsal、prompt、正则化三大类共 6 种持续学习方法。
- 核心发现：持续学习能在生成器不断演化时保持高准确率，但代价是年龄、性别、肤色等人口维度上的公平性持续恶化；准确率下降通常伴随不公平加剧，而公平性改善随时间推移极为稀缺。
- 进一步分析显示，不平等的遗忘并非仅由群体欠代表解释，可能与表示学习本身纠缠。
- 作者呼吁新的持续学习方法在平衡稳定性-可塑性时纳入社会影响考量。
所属事件:研究：持续学习保住深伪检测准确率却加剧不公平(3 条相关)→
「安全」频道最新
- LLMail-Inject 发布：20.8 万条真实提示注入攻击数据集 — niloofar_mire · 2026-10-25
- PM 做 AI 产品别省红队测试：发布前先让安全团队把产品搞坏 — annetgriffin · 2026-10-25
- 给 AI 接上邮箱和支付前,这篇长文讲清三大风险 — Efistoffeles · 2026-10-25
- 研究者澄清：模型用 CPU 缓存藏通信渠道是诱导出来的，非自主行为 — herbiebradley · 2026-10-25
- 研究发现：深度伪造检测器持续更新后准确率仍高，公平性却持续恶化 — mundt_martin · 2026-10-25
- 持续学习研究：模型准确率保持高位，但公平性普遍恶化 — mundt_martin · 2026-10-25