ICML 2026论文提出ALU框架,突破大规模机器遗忘瓶颈
研究团队在ICML 2026首尔会议上展示了论文《Unlearning with Asymmetric Sources》,提出了非对称朗之万遗忘(ALU)框架。该研究旨在解决机器遗忘技术中隐私认证与模型效用之间的权衡难题,使得模型能够在符合隐私要求的前提下“忘记”特定训练数据。
背景与现有技术局限
机器遗忘旨在让模型忘记特定训练数据。然而,现有的基于噪声的认证机器遗忘方法存在根本性局限:为了满足遗忘认证而添加的噪声,会在大规模删除请求的场景下严重损害模型效用,形成难以突破的“效用天花板”。此外,以往研究多假设公私数据完美对齐,而该团队明确建模并量化了现实中“分布不匹配”对遗忘效果的影响,使理论更贴近实际部署场景。
ALU框架核心优势
为突破上述瓶颈,研究团队提出了ALU框架。其核心思路是利用公开数据来降低机器遗忘的隐私代价。数学证明表明,注入公开数据可将遗忘代价的抑制因子提升至O(1/npub^2)。得益于这一机制,ALU不仅能支持恒定比例的大规模数据遗忘,其计算复杂度在理论上也优于从头重新训练模型,同时依然保持了严格的遗忘认证。
2026-07-07 ~ 2026-07-07 · 5 条相关
一手来源
- ICML26:非对称来源机器遗忘改善隐私效用权衡 — gkdziugaite ·
- ALU框架:公开数据注入将机器遗忘代价降O(1/n^2) — gkdziugaite ·
- ALU框架:支持大规模数据遗忘且计算效率优于重训练 — gkdziugaite ·
- 【源头】ICML26:非对称来源机器遗忘改善隐私效用权衡 — gkdziugaite · 2026-07-07
- 噪声认证遗忘存在效用天花板,大规模删除场景下失效 — gkdziugaite · 2026-07-07
- 【源头】ALU框架:公开数据注入将机器遗忘代价降O(1/n^2) — gkdziugaite · 2026-07-07
- 【源头】ALU框架:支持大规模数据遗忘且计算效率优于重训练 — gkdziugaite · 2026-07-07
- ALU理论:量化公私数据分布不匹配对遗忘效果的影响 — gkdziugaite · 2026-07-07