SNaP用测量自适应源一步抽后验,比DPS快2250倍

SNaP: One-Step Posterior Sampling for Noisy Inverse Problems

Shirin Shoushtari, Edward P. Chandler, Xiao Shi, Ulugbek S. Kamilov

cs.CV

2026-09-28

SNaP把线性测量与噪声水平写进MeanFlow的各向异性高斯起点,一次网络评估抽出后验样本。CelebA高斯去模糊单张12毫秒,比DPS快2250倍,校准比1.03。

这篇在解决什么

从模糊、欠采样、遮挡这类线性测量里恢复图像,y=Ax+n 往往秩亏或病态,定不住唯一的 x。后验采样从 p(x|y) 里抽图,用来看不确定性和做多样本平均。扩散模型和 flow matching 能当强先验,但 DPS、DDRM、DiffPIR、Flower 要在长轨迹上反复做数据一致性。CelebA 高斯去模糊上,DPS 出一张 128×128 图要 1000 次网络评估、27 秒。

MeanFlow 学区间平均速度,一次评估走完全程。轨迹压成一步后,中间态没了,逐步往测量上拧的位置也没了。把 y 当条件、起点仍用各向同性高斯,多次抽取几乎是同一张图,校准比 Δcal 掉到 0.00,再平均也抬不起 PSNR。单步把速度买来了,后验该有的方向性方差没了。

方法

SNaP 改的是起点分布,目标仍是 p(x|y)。源是测量自适应高斯 qτ(x|y)=N(my, τ²W),均值和协方差都由 A、y、噪声水平 σn 闭式给出。

均值 my 取 Tikhonov 估计。在「线性中心加独立扰动」这一族源里,它最小化源样本到后验样本的期望平方位移。测得准的方向被钉在观测附近;弱方向被正则,不会像伪逆 A†y 那样把噪声放大。

协方差在 A 的右奇异基下对角:方向 i 的权重 wi=σn²/(σn²+τ²si²)。奇异值大则方差小,弱测量方向放宽,零空间方向方差就是工作先验尺度 τ²。似然超水平集是绕最小二乘解的管子,管子窄的地方源也该窄。工作模型只用来造源,并不假设真实图像是各向同性高斯。

训练用 perturb-and-solve 抽源:扰动再解一次 AA⊤+λI,不必对 W 开方。超分和补洞是 O(n),高斯去模糊两次 FFT,多线圈 MRI 用共轭梯度,通常 10 到 20 步。网络学条件平均速度,测试时一次评估 x̂=x0+uθ(x0,0,1|y,σn)。精确平均速度会把这个源运到真后验,τ 只改路径不改终点;学到的网络只是在逼近。σn 趋于 0 时,源退化成 NullFlow 的伪逆加零空间噪声。

结果

CelebA 四项任务、100 张测试图。单次抽取的感知指标能打迭代方法;平均多次则拉高失真指标,细节被抹平。

方法NFE去模糊 LPIPS↓去模糊 FID↓Δcal
DPS10000.01918.250.64
DDRM200.02720.260.31
SNaP(M=1)10.01815.801.03

去模糊单次 LPIPS 0.018 最低。平均 100 次后,四项 SSIM 全最高,PSNR 四项里三项最高(去模糊 35.91 dB,对标 MSE 回归器 35.74、Flower5-OT 35.65)。超分单次 PSNR 31.27 dB、LPIPS 0.023;盒状补洞单次 30.73 dB、0.021。平均 100 次后超分到 34.16 dB,盒状补洞到 33.69 dB。校准比在去模糊、超分、盒状补洞为 1.03、0.99、1.08;DPS 在盒状补洞是 2.15,过散。随机补洞上 DPS 的 LPIPS 0.013 仍优于 SNaP 单次的 0.018。

耗时上,CelebA 去模糊单样本 12 毫秒,相对 DPS 为 2251 倍、OT-ODE 548 倍、Flower 218 倍、DDRM 30 倍。fastMRI 脑部多线圈 ×8 为 0.227 秒,相对 CSGM 563 倍、DPS 335 倍。MRI ×4、20 dB 输入信噪比下,单次 PSNR 32.06,接近 PnP-DM 的 32.16,低于监督 MSE 回归器的 33.80。平均 16 次后到 32.85 dB,仍低于回归器。AFHQ-Cat 去模糊上 OT-ODE 的 LPIPS 0.126 优于 SNaP 的 0.159。

把源换成 N(0,I) 或 N(0,τ²I)、y 仍作条件:Δcal 变成 0.00,平均 100 次几乎不改 PSNR。多样性来自源的各向异性。二维棋盘上算子一转,闭式源的 MMD² 从 0.0027 升到 0.017,VFM 学到的对角适配器从 0.011 升到 0.074。二维高斯混合闭式后验上,单步样本零空间方差 6.66,真后验 6.36,没有塌到分量方差 0.12。

为什么重要

产品只要一张图、只看 PSNR,监督 MSE 回归器往往就够。SNaP 给的是一次前向抽多样本:看不确定性、做平均降失真、MRI 这类需要看变异的重建。平均样本会抬 PSNR、SSIM,同时把 LPIPS 变差,因为平均在往条件均值靠。去模糊上单次 LPIPS 0.018,平均 100 次变成 0.030。相对 DPS 这类零样本迭代器,它要配对数据,换算子要重训。相对只处理无噪声测量的 NullFlow,在 σn=0.05 的盒状补洞上 SSIM 为 0.934 对 0.855。

已经在用 MeanFlow 做复原的人,失败模式很清楚:各向同性源会把单步模型变成点估计器。源的形状比尺度关键,τ 在 0.15 到 0.5 之间指标几乎不动。

局限与存疑

作者写明三条:构造绑在线性算子上,非线性前向没有闭式工作后验;源要解 AA⊤+λI,没有结构时可能贵;只在像素空间,潜空间怎么接这个源还没做。

校准比只是二阶矩必要条件,不能证明条件覆盖。每项测试 100 张,FID 用 2048 张单次重建,规模不大。SNaP 是监督条件模型,和 DPS、DDRM 的零样本设定不对等,表里的加速数字混了训练假设。MRI 上 MSE 回归器全面更高,后验采样的价值在多样性和校准,不在刷 PSNR。σn 只测了高估,低估没测。把一跳拆成 k 步,k=2 略好,k=8 比单步更差,中间时刻的 uθ 并不可靠。

术语

原文与代码

社区讨论

相关论文

全部论文解读