2026-09-21
Worcester 与 UC Irvine 把双层局部算子学习和 HMC 接起来,下层只 LoRA 微调。非线性泊松后验贴近数值参考,Darcy 场相对 L2 误差 6.2%,并可在 2D MRI 上推断胶质瘤生长参数。
PDE 反问题的贝叶斯版本要的是参数后验,不是一个点估计。每抽一个参数,通常就要再解一次正问题,还要梯度。伴随方程难推,黑盒求解器没有伴随。PINN 把数据和残差加在一个损失里,权重难调。贝叶斯 PINN 更进一步,连网络权重一起用 HMC 抽,维数直接爆炸;把残差噪声 σf 拧小能逼近真解,步长跟着塌,有效样本量掉下去。
神经算子当代理很快,但训练要大量合成正演,出分布就漂。缺的是一种不必伴随、不必预生成数据集、也不必在权重空间做 MCMC 的梯度采样。
Nature Communications 这篇是 arXiv:2507.17019 的正式发表版,方法名 B-BiLO。
上层用 HMC 抽 PDE 参数 θ。下层不抽权重,把网络当成「局部解算子」:对当前 θ,既要 PDE 残差接近零,也要残差对 θ 的全导数接近零。第二项保证 θ 微扰时,解的变化仍满足方程,于是势能 U(θ) 的梯度可以从网络直接反传,不必伴随。
权重随机初始化后,先在一个初值 θ0 上预训练局部算子,如果有该点的数值解可以加一项数据损失加速。采样过程中 θ 只小步走动,网络从上一状态微调。微调可以全量,也可以 LoRA:固定预训练权重,只学低秩增量 AB。论文把这套叫做 LoRA(r)。下层优化到容差 ε 就停。理论结果是:在温和光滑假设下,势能梯度误差和后验的 KL 散度都是 O(ε)。
未知空间场(如 Darcy 的扩散系数)用辅助变量 z=f(x) 把函数反演收成有限维局部算子问题,扩散系数本身用 64 项 KL 展开。
非线性泊松(推断 k,真值 0.7):解关于原点对称,物理上 u(0) 不应有不确定性。B-BiLO 在原点的后验标准差接近零,参数后验贴近「Metropolis–Hastings + 数值求解器」的参考分布。BPINN 在 σf=0.1 时原点仍有明显不确定性;把 σf 拧小能补精度,ESS/秒下降。B-BiLO 不用调 σf。LoRA rank 4 和 8 的 k 后验与全量微调对齐。相对效率上,LoRA 峰值显存始终低于全量;小网络更慢,网络变宽之后单样本时间才低于全量。
基因表达粒子模型(推断出生率 λ 和降解率 μ):LoRA rank 4 相对参考的 90% HDPR 面积误差 2.1%,λ 的 MAP 误差 2.0%,μ 为 4.0%,全量微调是 3.5% / 1.8% / 3.4%。
二维 Darcy:21×21 观测、约 10% 噪声、61×61 配置点。LoRA rank 4 的后验均值相对数值参考的相对 L2 为 6.2%,能抓住高/低扩散分区。
二维胶质瘤 MRI:在 Fisher–KPP 上推断无量纲扩散 D、增殖 ρ 以及全瘤/瘤核两个密度阈值。LoRA rank 8 与全量微调的后验接近,MAP 分割贴住 MRI 上的 WT/TC,浸润边界(u=1%)略超出可见病灶。没有细胞密度的体内金标准,预测能力只能间接用复发数据验证,3D 病例留作后续。
给科学计算里的贝叶斯反演提供一条可落地的折中:正问题用神经网络局部拟合,不确定性只留在低维物理参数上。对做肿瘤生长、渗透率场这类「参数不多、正问题很贵」的人,LoRA 把每次 leapfrog 的可训练量从整网降到低秩。它不取代有伴随的有限元;它取代的是 BPINN 那种在权重空间做 MCMC 的路线。
3D 和更高维参数场被明确留到未来。LoRA 在窄网络上更慢,收益出现在层宽变大之后。下层容差 ε 会以 O(ε) 进到后验误差里,容差怎么定没有一劳永逸的准则。Darcy 用 64 项 KL 展开,分辨率受截断限制。肿瘤例子是单病例 2D 切片,临床可用性远未证明。Nature 官网 PDF 被登录墙拦住,方法与数字来自作者同期 arXiv 预印本 2507.17019v2,摘要与作者与正式发表版一致。