Contrastive Noise Alignment 论文：少步生成 FID 降低超 50%
burny_tech · x · 2026-09-18
arXiv 新论文提出 Contrastive Noise Alignment（CNA），一种训练时优化高斯噪声表示的方法。
- 问题：扩散/流匹配模型通常用独立采样的高斯噪声破坏数据，导致任意的数据-噪声配对，迫使网络学习高曲率传输；现有最优传输方法只重配噪声样本，噪声分布本身仍是被动。
- 方法：把噪声批次建模为相互作用粒子系统，用跨模态 InfoNCE 目标将噪声粒子对齐到配对数据；用角度熵正则和径向范数惩罚防止空间坍缩。
- 理论：证明该平衡渐近保持高斯结构，推理时可保持可解性。
- 效果：在 2-4 步少步像素空间生成中，FID 较标准 rectified flow 降低超 50%，较 OT 基线至少降 24%，且不增加推理开销。
作者为 Lennart Wittke 与 Vinicius Azevedo，论文 21 页。
「多模态」频道最新
- 让 Claude 自选难题：攻不了伏尼契手稿，就拍了部科普短片 — emollick · 2026-09-18
- MiniMax-H3 实战:5070Ti 六分钟出 10 秒 1MP 片段的完整心得 — Sleepy_Bandit · 2026-09-18
- ComfyUI 快速版 MiniMax H3 工作流:视频生成提速 5 倍 — cointalkz · 2026-09-18
- PrunaAI 发布 P-Video-2-Pro:480p 生成 5 秒视频仅约 2 秒 — Kyrannio · 2026-09-18
- Pika 发布全新 AI 创作平台:一个入口调度多种模型与工作流 — Kyrannio · 2026-09-18
- Seedance 2.5 混搭 Minimax Music 3.0,Pika 平台产出短片 Talos — Kyrannio · 2026-09-18