Gaussian Flow Dynamics 新方法让神经 SDE 免模拟学习时间结构
canaesseth · x · 2026-10-06
- 论文《Gaussian Flow Dynamics: Simulation-Free Neural SDE Learning Beyond One-Time Marginals》(arXiv:2610.04390,Bartosh & Naesseth)指出,免模拟训练 latent SDE 依赖的 Gaussian 一次性边缘分布不能决定动力学:多个过程可共享相同边缘而时间结构不同,现有参数化隐式固定了该结构,限制了后验族并引入偏差。
- 提出 Gaussian flow dynamics:由平滑演化的 Gaussian 边缘直接构造随机过程,并将保持边缘的 gauge 自由度显式参数化;支持状态依赖的扩散系数,可恢复所有加性噪声的非退化线性 SDE。
- 基于此提出 Gauge Matching:结合 Gaussian flow dynamics 与 SDE Matching 目标的免模拟 latent SDE 学习方法,每步开销至多为隐变量维度的平方级;在线性基准上与三次方开销的 Helmholtz-SDE 差距在一个 nat 以内,非线性系统上表现相当,且适用于 Helmholtz-SDE 无法处理的场景。
「研究」频道最新
- PerturBot 用扰动训练打破视觉-语言-动作模型的捷径依赖 — Mingyu Liu · 2026-10-06
- TextReg 治理提示词过拟合,TextGrad 之上最高提升 11.8% — GeorgiaTech · 2026-10-06
- SourceLearn 让智能体沉淀源级能力,15 项评测 13 项第一 — GeorgiaTech · 2026-10-06
- 用表示空间 MMD 后训练扩散语言模型,16B 模型解码更并行 — yresearch · 2026-10-06
- Attention Relay 免训练迁移 LLM 指令遵循能力给文本嵌入模型 — _reachsumit · 2026-10-06
- PSA 搜索代理写程序筛选候选,两基准成功率提升 4-7.6 个百分点 — _reachsumit · 2026-10-06