ReDiverse 探针法揭示蒸馏生成器多样性坍缩根因,代码模型开源
anand_bhattad · x · 2026-11-19
扩散模型蒸馏成少步学生模型后,不同随机种子生成的样本差异极小——多样性坍缩。作者通过探测学生模型内部激活发现:学生保留的总激活方差与教师相当,但集中在更少的方向上,坍缩定位于初始去噪步骤的某个中间 block,本质是方差分配错位而非生成能力丢失。
据此提出 ReDiverse 两条路线:
- ReDiverse-FT:训练时微调轻量 adapter,将学生激活回归到教师激活,恢复教师特征方差;
- ReDiverse-TF:推理时免训练,沿预计算的教师主方向引导激活。
在图像与视频蒸馏基准上均稳定恢复样本多样性且保持生成质量,用户研究佐证。论文、代码、模型均已开源,项目由大二本科生 Furkan Horoz 主导,fal 与 Siebel School 合作完成。
所属事件:ReDiverse:定位并修复蒸馏扩散模型的多样性坍缩(9 条相关)→
「多模态」频道最新
- Seedance 2.5 4K 视频生成登陆 CapCut PC,黑五首月 5 折再半价 — HeyNayeem · 2026-11-19
- fal发布Idol Max/Turbo:单张图生成游戏级3D网格,带UV与自动绑骨 — OdinLovis · 2026-11-19
- HiT 图像生成模型:从像素端到端学出抽象层级,ImageNet 256 FID 达 1.48 — LucaAmb · 2026-11-19
- osmo 更名应用型 AI 实验室,发布 Slack 内全栈视频 agent Posty — yawnxyz · 2026-11-19
- MOSS-Image-Base 实测:路牌便签类小字场景文本渲染到位 — Impressive-Kick293 · 2026-11-19
- 开发者借 Claude 在 16GB M1 Mac 上把 MiniMax H3 视频生成提速近一倍 — Lokoto123 · 2026-11-19