ReDiverse:探针定位蒸馏扩散模型多样性坍缩,PCA 加轻量微调即可恢复

anand_bhattad · x · 2026-11-19

anandbhattad 发布 ReDiverse 研究线程,主题是其一贯的 Probe→Analyze→Improvement 方法论:先探测模型学到了什么,分析失败在哪,再用结构洞察改进模型。团队探测了多个蒸馏扩散模型(图像与视频)的激活,发现一致模式:模型的主方向发生坍缩,集中在一层、尤其是去噪早期,导致相比教师模型丢失多样性。修复方法:用 PCA 把这些方向投影回教师空间,再只对早期去噪步骤做轻量微调即可进一步恢复多样性。该方法在多个模型上均有效,项目由本科生 Furkan 主导完成(与 fal、Siebel School 合作)。

所属事件:ReDiverse:定位并修复蒸馏扩散模型的多样性坍缩(9 条相关)→

原文链接 →

「多模态」频道最新

更多「多模态」频道 AI 资讯 →