FuseReg:层融合正则化弥合表征自编码器的重建-生成鸿沟,gFID 降 29%
USC-PSI-Lab · hf · 2026-09-28
USC PSI Lab 提出降7FuseReg,解决表征自编码器(RAE)中层融合选择的权衡问题。
问题:RAE 复用预训练视觉编码器特征作为扩散生成 latent,但浅层保留像素细节更好、深层生成指标更好,固定启发式融合难以兼顾。
方法:用随机编码器层子集训练替代启发式特征选择,理论上可证明子集采样显式惩罚跨层分歧敏感性。
结果(ImageNet-256 + DINOv3-L):
- 单个 FuseReg 解码器无需重训即可从全层/稀疏/单层融合重建,PSNR 超过专用于固定融合的解码器
- 仅替换解码器,gFID(无引导)在 RAEv2 DiT-XL 生成器上降低 27%
- 同样正则原则扩展到扩散训练,两阶段联合正则使 DiT-Base 的 gFID 再降 29%
结论:为下游模型训练层融合鲁棒性,可在不动预训练编码器的前提下弥合重建-生成差距。
所属事件:FuseReg 正则化弥合自编码器重建与生成鸿沟(2 条相关)→
「研究」频道最新
- Google 开源 PaperOrchestra:多 Agent 自动写 AI 研究论文 — google-research · 2026-11-16
- ICLR 审稿人未被打动仍提分:因相信论文对社区有价值 — MarkSchmidtUBC · 2026-11-16
- 手改0.2%权重加CPU训练100分钟,英语TTS模型变身18MB梵语语音 — kastnerkyle · 2026-11-16
- 为什么 AI 做化学必须懂手性:对映异构体在生物体内并不等价 — madeofAjala · 2026-11-16
- RSS 2027 投稿开启:两阶段评审 FAQ 澄清负面结果标准 — GeorgiaChal · 2026-11-16
- Mobile AI Factory:agent 自动为你的手机造专用小模型,GPU 时间省 19 倍 — pmttyji · 2026-11-16