一维双峰交叉处漂移 3.5 倍,拉格朗日视角重推 Flow Matching

2026-09-02

从去噪目标守恒写出平流 PDE,残差速度场的特征线即 Flow Matching 直线;一维双峰交叉处目标漂移峰值约为远处的 3.5 倍。

这篇在解决什么

Flow Matching 和 Rectified Flow 的通行推导是欧拉式的:站在固定坐标上看概率质量被速度场搬走,连续性方程保证质量不丢,最优传输再给出直线耦合。这对「生成分布对不对」给了宏观保证,对 ODE 求解器每一步在硬件上碰到什么几乎不说话。

求解器真正看见的是去噪器输出。标准扩散里,非线性噪声日程把中间边际拧弯,干净图的预测每一步都在挪。一次有限步可以拆成预测-校正:在 (x,t) 先算 f(x,t),用残差 x−f 走出 Δx;落到 (x+Δx, t−Δt) 再问一次去噪器。一阶泰勒给出新预测约等于旧值加上 Jf Δx,再减去时间漂移项。空间雅可比在补局部几何,时间导数在追后退的时间轴。目标每步都在变,大步必冲过头,扩散常见上千步。

接下来的问题更硬:什么样的轨迹能让目标不再动,从而允许大步;经验上已经很直的 Flow Matching,为什么采样仍要约 20 到 50 步,还要靠蒸馏才能一步出图。

方法

理想轨迹上,去噪器 f(x,t) 在第一个噪声水平就认出干净样本 x0,之后预测不再变。沿路径对时间的全导数为零。这是拉格朗日视角:坐在一颗粒子里跟着走。几何上,理想去噪器就是流映射的逆,f(x,t)=x0,粒子的目标身份被守恒。

链式法则把这个条件写成一阶拟线性平流 PDE:时间漂移 ∂f/∂t 必须被空间雅可比 Jf 乘上速度 v 完全抵消。这个方程约束的是 (f,v) 这一对,单独并不挑出唯一速度场。论文因此另放一个残差速度假设,动机来自 Tweedie 公式和残差流:v(x,t)=c(t)(x−f(x,t)),c(t) 是任意标量日程。速度完全由「当前状态离去噪预测有多远」驱动。

特征线方法在这里不负责推出这个假设。它要检验这个假设能不能和不变性自洽。沿这条曲线强制 df/dt=0,f 必须是常数;边界 f(x,0)=x0 把常数钉死。代回残差式,ODE 变成可分离的线性方程,积出来 X(t)=x0+σ(t)z1,其中 σ(t)=exp(∫c(t)dt),z1 是 t=1 的噪声。这正是 Flow Matching 的直线插值。

推导的口径被写得很窄。残差假设没有被证明是 PDE 的唯一解,别的速度场原则上也能自洽。它只站住三步:残差假设可以和不变性对齐;对齐会强迫 f 沿特征线为常数;加上 t=0 的边界,轨迹被完全钉成直线。

结果

曲率被单独拆出来。偏离特征线时,∂f/∂t=−Jf v。对最优 MMSE 去噪器,或对称雅可比的理想去噪器,Jf 与后验协方差 Σpost 成正比。协方差半正定,点积给出 v⊤∂f/∂t=−v⊤Jf v≤0。目标沿行进方向一定在退,弯曲轨迹的求解器只能用极小步长。t→0 时数据流形变锐,Jf 特征值发散;弯曲轨迹会直接撞上爆炸雅可比。直线特征线上 ∂f/∂t=0,这项惩罚被抵消。

经验训练会把这张图撕开。随机噪声和数据独立连直线,高维里路径会交叉。确定函数无法在同一点给出两个目标,网络只能输出平均速度。后验协方差在交叉处炸开,轨迹被掰弯,基线 Flow Matching 仍要约 20 到 50 步。Reflow 蒸馏先用基线模型滚出互不交叉的配对,再学新的直线。冲突消失后 Σpost→0,Jf→0,漂移机制被饿死,才可能一步生成。

一维双峰玩具把数字钉死。数据 x0∈{−1,+1},线性插值接标准正态噪声。两条特征线家族各自是直线,但共享噪声分布,在 t 接近 1、x 接近 0 处密集重叠。Bayes 最优去噪器有闭式:f(x,t)=tanh((1−t)x/t²),v=(x−f)/t。t=0.9 时 f 近乎线性,平均得很重;t=0.1 时塌成 x=0 处的阶跃,交叉坐标上雅可比发散。

起点峰值 df/dt轨迹
z1=±2.0,远离交叉≈2.65近直线
z1=±0.05,贴着交叉≈9.23S 形,在 x≈0 徘徊
z1=0,决策边界不收敛f 冻在 0

近交叉峰值大约是远轨迹的 3.5 倍,峰出现在 t≈0.2 到 0.5。z1=0 对应低步数生成里那种糊在两峰之间的失败。

为什么重要

欧拉视角里的速度场 vt 和概率质量 pt,采样时根本摸不到。网络吐出来的就是去噪器张量 f。把不变性建成 df/dt=0,等于给推理加了一只可监控的表:连续两步输出乱跳,平流 PDE 正在被违反,这条样本还在打未解开的交叉。求解器该减速,蒸馏也该优先打这块流形。一步生成发糊,按这个力学图景就是特征线仍在交叉,平均速度把目标抹掉了。

这不是新训练算法。它把已经知道的事实重新接成一条能在求解器上检查的链条:直线为什么能大步、扩散为什么不能、Reflow 为什么能一步。对已经在用 Flow Matching 的人,价值在调试透镜。一致性模型已经拿类似不变性当有限差分训练损失,这篇把它写成完整 PDE,并指出雅可比是曲率的机械来源。

局限与存疑

速度场不是从 PDE 推出来的,是先验塞进去再检验自洽。直线并不是不变性原理的唯一推论。

实验停在一维两点混合的闭式后验。真实图像流形是连续多峰,诊断必须看成一批样本上的分布,论文没有在任何真实图像模型上报告这个量。20 到 50 步、扩散上千步都是文献经验量级,不是这篇自己测的。Jf∝Σpost 依赖对称雅可比的理想 MMSE 去噪器,训练网络不保证这一点。交叉在高维里有多频繁,也没有定量。

术语

原文与代码

社区讨论

全部论文解读