ReDiverse 探针诊断蒸馏扩散模型多样性坍缩并低成本修复
ReDiverse · hf · 2026-11-17
UIUC、fal 与约翰霍普金斯团队发现少步数蒸馏扩散模型多样性坍缩的机理,并提出修复方法 ReDiverse:
- 诊断:在初始去噪步骤的某个中间 block,激活方差被压缩到更少的方向上,导致样本趋同;
- 修复:通过 adapter 微调或免训练的激活引导(activation steering),把教师模型的方差方向重新注入学生模型;
- 在 SDXL、SD3 图像与视频生成上验证,恢复多样性的同时保持生成质量(对比图显示学生模型输出几乎雷同,ReDiverse 后色彩与构图明显分化)。
对使用蒸馏加速生成的开发者来说,免训练方案即插即用,实用价值较高。
所属事件:ReDiverse:小改动修复蒸馏扩散模型多样性坍缩(2 条相关)→
「多模态」频道最新
- MOSS 出图演绎逆光蝴蝶:光影与概念混合的新玩法 — DevKkw · 2026-11-17
- VHS 质感恐怖短片《Human Alien》展现 AI 视频新美学 — brythehuman · 2026-11-17
- 开源 AI 视频编辑器 Scarlet 大更新:语音指挥剪辑并可导出专业软件 — MatthewBerman · 2026-11-17
- AI 生成短剧:薛定谔吐槽现代约会,大脚怪播客质感惊人 — FuzzByteStudios · 2026-11-17
- Seedance 2.5 4K 版本上线 fal 平台 — petewoodbridge · 2026-11-17
- Higgsfield 推出短剧工作室:输入剧本生成整季短剧 — azed_ai · 2026-11-17