Inverse Distillation Unlearning：一步蒸馏生成器同时抹除遗忘集数据
Aleksei Leonov · hf · 2026-10-06
HF 论文提出 IDU（Inverse Distillation Unlearning），首个在无条件 flow-matching 与 score-based 扩散模型上同时完成蒸馏与机器遗忘的统一框架：把多步教师模型蒸馏为高效的单步学生生成器，同时抑制对应遗忘集的输出。
做法：将蒸馏表述为对数据分布的 min-max 目标，并把该分布表示为遗忘集分布与生成分布的混合，与教师训练分布比较后在最优点只恢复保留数据。方法仅需预训练的全量教师模型与遗忘集数据，无需访问保留训练样本、额外特征提取器或分类器。
实验：在 MNIST 与 CIFAR-10 的 flow-matching 与 score-based 设定下，IDU 大幅降低被遗忘类别的生成频率，同时保持保留类别的生成质量。
「多模态」频道最新
- 「全息数据投影」提示词分享：一键生成科幻风人物投影 — azed_ai · 2026-10-06
- 开源 huashu-art-motion skill：35 种艺术风格让画动起来 — AlchainHust · 2026-10-06
- 一条提示词跑通 Claude Opus 与 Seedance 视频生成 — Itchy-Car-904 · 2026-10-06
- RTX 5080 本地跑 MiniMax H3：17 秒 720p 视频要多久？ — off_rs · 2026-10-06
- RTX 5060 8GB 上跑 Krea 2：LoRA 保角色+Chroma 定构图的写实工作流 — Wide_Director_8897 · 2026-10-06
- Reddit 展示 AI 生成动漫舞台:烟雾闪电氛围大片 — Amazing_Skill_6080 · 2026-10-06