Looped Flows 新方法破解循环模型多步反传不稳难题

burkov · x · 2026-09-13

Looped 模型通过用同一组参数反复更新共享隐状态,在不增大模型体积的情况下于推理期获得更多计算量,适合复杂推理任务。但实践中训练很难:跨多个循环步做完整反向传播代价高且不稳定,通常只能在一两步后截断梯度,导致早期步骤得不到后期计算的直接监督,循环容易不收敛或落入错误解。

这项工作提出 looped flows 来缓解该问题:在一个逐步降低噪声水平的局部去噪目标序列上训练带状态的 denoiser,并在各步间共享噪声以促进循环状态的时间一致性;推理时再对所得概率流进行积分。方法核心是用 flow matching 的训练框架为循环步提供更稳定的监督信号。