Beyond Random Couplings: Contrastive Noise Alignment in Generative Flows
Lennart Wittke, Vinicius Azevedo
cs.CV, cs.LG
2026-09-16
ETH 与 Disney Research 提出 CNA：把 batch 噪声当粒子，用 InfoNCE 拉向配对数据，再用角熵和范数惩罚防止塌缩。CIFAR-10 上 2 步 FID 从独立耦合的 175.91 降到 87.39，叠加 minibatch OT 可到 56.40。
Flow matching 训练时，通常把每张图和一份独立采样的高斯噪声配对。实现简单，几何很差：噪声和数据几乎不相关，网络必须学一条高曲率的传输路径。Minibatch OT 会在固定噪声样本之间重新分配配对，路径更直，但噪声本身仍是被动的一堆点，只能做点对点重排。
这篇问的是另一件事：能不能在训练时直接移动噪声粒子，让它们在语义上靠近对应数据，同时整体仍近似标准高斯，推理时照样从 N(0,I) 采样。
方法叫 Contrastive Noise Alignment（CNA）。每个 batch 的噪声被当成相互作用的粒子系统，受三股力：
总损失是 Lalign + β Lentropy + λ Lnorm。每步训练先对噪声跑 T=4 步 Adam（学习率 0.02），再用优化后的配对做标准 conditional flow matching。推理不改，仍从精确高斯先验采样。理论用 Maxwell-Poincaré 球面中心极限定理：高维超球面均匀分布的低维投影趋向高斯。β→∞ 时，角熵把方向推到均匀，投影渐近恢复 N(0,I)。
CIFAR-10 无条件生成，网络与 Tong 等人的 OT-CFM 设置对齐，基线全部复现。Euler 2 步 FID：独立耦合（I-CFM）175.91，OT-CFM 91.75，CNA（β=2）87.39，CNA+OT（β=2）56.40。4 步时 CNA+OT 为 22.64，相对 OT 的 30.00 约降 25%。128 步上 CNA+OT（β=5）到 4.06，略好于 I-CFM 的 4.37；但 β=2 的 CNA+OT 在 128 步是 5.25，已经差过独立耦合。曲率 κ（Euler-128）从 I-CFM 的 0.0479 降到 CNA+OT 的 0.0251。
ImageNet32 上，单独 CNA 几乎打不过 OT-CFM。CNA+OT（β=5）1 步 FID 从 OT 的 252.88 降到 166.07，2 步 71.78，4 步 26.86。高步数要加大 β：β=30 时 16 步 FID 8.96，低于 OT 的 9.41。配对余弦相似度从 OT 的 0.0379（CIFAR）/0.0491（ImageNet32）升到 0.0597 / 0.0707。
| 方法 | CIFAR Euler-2 FID | ImageNet32 Euler-1 FID |
| I-CFM | 175.91 | 419.92 |
| OT-CFM | 91.75 | 252.88 |
| CNA（β=2） | 87.39 | 250.87 |
| CNA+OT | 56.40（β=2） | 166.07（β=5） |
消融说明三股力缺一不可。只做对齐能把 Euler-4 FID 从 30.00 降到 22.60，但先验塌缩，Dopri5 FID 从 3.66 升到 10.52。加上熵和范数后，Euler-4 为 25.24，Dopri5 回到 3.56。训练吞吐只掉约 2%；CNA+OT 的瓶颈仍是 OT 初始化。
对做少步生成的人，CNA 把「找直路径」的一部分负担从网络挪到先验上，而且推理零成本。它和 Shortcut、MeanFlow 这类改回归目标的方法正交，理论上可以叠。代价是要调 β：低 β 少步更好，高 β 才守住高斯、保住高步数质量。单独 CNA 在 ImageNet32 上几乎没有优势，实用配置是 CNA+OT。
这是耦合几何上的渐进改进，不是新的生成范式。实验停在 32×32 无条件像素空间。
作者自己写了核心张力：噪声越贴数据，就越不像高斯。低 β 少步好看，Dopri5 变差；高 β 反过来。CNA+OT（β=2）在 CIFAR 128 步 FID 差过独立耦合，说明激进对齐会伤充分采样。噪声仍从随机高斯初始化，起点可以很差。实验没有条件生成、没有隐空间、没有 256 以上分辨率。InfoNCE 诱导高斯的理论是渐近的，有限 batch、有限维只是近似。附录也承认正则项只代理了 KL 的角度部分，没有管条件径向熵。