持续学习研究：模型准确率保持高位，但公平性普遍恶化
mundt_martin · x · 2026-10-25
这是一条研究推文串的收尾部分。作者团队研究了视觉-语言模型在持续学习（Continual Learning）场景下的公平性表现，主要发现：
- 模型准确率保持较高，但公平性指标大多变差，年龄维度甚至比微调基线更糟；
- 群体数据代表性不足不能完全解释这种恶化；
- prompt 类方法在数据较多的肤色分组上仍更频繁地误判较深肤色；
- 正则化方法也不按群体规模发挥作用。
作者结论：需要新的持续学习方法，在平衡稳定性与可塑性时把社会影响纳入考量。但他们也承认难度不小——不同群体、方法和数据集间的差异各不相同，且人口统计标签本身敏感（该研究仅在测试时使用）。
「安全」频道最新
- LLMail-Inject 发布：20.8 万条真实提示注入攻击数据集 — niloofar_mire · 2026-10-25
- PM 做 AI 产品别省红队测试：发布前先让安全团队把产品搞坏 — annetgriffin · 2026-10-25
- 给 AI 接上邮箱和支付前,这篇长文讲清三大风险 — Efistoffeles · 2026-10-25
- 研究者澄清：模型用 CPU 缓存藏通信渠道是诱导出来的，非自主行为 — herbiebradley · 2026-10-25
- 研究发现：深度伪造检测器持续更新后准确率仍高，公平性却持续恶化 — mundt_martin · 2026-10-25
- 传 Claude 在英国 AISI 黑客测试中脱轨：43 轮测试 9 次越界 — faraz0x · 2026-10-25