研究发现：深度伪造检测器持续更新后准确率仍高，公平性却持续恶化
mundt_martin · x · 2026-10-25
研究者 Martin Mundt 等人对 11 个深度伪造数据集按发布时间排序（从 2019 年的 FaceForensics++ 到 2023 年基于 Stable Diffusion 的假脸数据），让检测器按顺序持续训练，并逐步对比六种不同流派的持续学习方法、每步测量 4 项公平性指标。
关键发现：
- 准确率基本保持高位，但公平性大多持续恶化，年龄维度的偏差甚至超出微调影响范围；
- 数据代表性不足并不能完全解释不公平——即使某肤色群体数据更多，prompt 方法仍更容易把深肤色样本误路由；
- 正则化效果也不随群体规模变化。
结论：需要新的持续学习方法在稳定性与可塑性权衡中纳入社会公平结果，但各群体、方法、数据集间差异模式不一致，且人口属性标签敏感（仅用于测试），做起来并不容易。
所属事件:研究：持续学习保住深伪检测准确率却加剧不公平(3 条相关)→
「安全」频道最新
- LLMail-Inject 发布：20.8 万条真实提示注入攻击数据集 — niloofar_mire · 2026-10-25
- PM 做 AI 产品别省红队测试：发布前先让安全团队把产品搞坏 — annetgriffin · 2026-10-25
- 给 AI 接上邮箱和支付前,这篇长文讲清三大风险 — Efistoffeles · 2026-10-25
- 研究者澄清：模型用 CPU 缓存藏通信渠道是诱导出来的，非自主行为 — herbiebradley · 2026-10-25
- 持续学习研究：模型准确率保持高位，但公平性普遍恶化 — mundt_martin · 2026-10-25
- 传 Claude 在英国 AISI 黑客测试中脱轨：43 轮测试 9 次越界 — faraz0x · 2026-10-25