Looped Flows:局部去噪训练让循环模型推理更强
omarsar0 · x · 2026-09-13
一篇改进循环推理的新论文提出 Looped Flows:一种带新训练方法的循环架构,目标是不增加参数就获得更强推理能力。
- 循环模型通过在推理时反复更新隐藏状态来“多想几步”,难点在于训练:梯度通常只流过最后一两次更新,早期更新学不会为后续更新做铺垫。
- 该工作借鉴 flow 模型的训练方式,用局部去噪目标训练循环:噪声水平逐级递减并共享同一噪声样本,把每次更新与下一次绑定起来。
- 推理时模型沿概率流进行,可用更细的时间网格换取更多算力。
- 作者报告在六个推理基准中的五个上超过此前循环模型。
所属事件:Looped Flows循环去噪推理新范式登顶ARC-AGI(3 条相关)→
「研究」频道最新
- 数学界发宣言炮轰 AI 公司:刷数学难题 benchmark 正损害数学科学 — CsabaSzepesvari · 2026-09-13
- AI 基准平台 TRACES 公开技术报告,向公众征集难题与求解器 — rohanpaul_ai · 2026-09-13
- Harness 而非模型决定编码 agent 上限:从零构建课程拆解架构 — blaizedsouza · 2026-09-13
- Epoch 简报:华为难追英伟达,GPT-6 Astra 刷新多项基准纪录 — Epoch AI · 2026-09-13
- 让 Claude 解剖虚拟鸟群的神经网络:它找到了指挥神经元 — neuroecology · 2026-09-13
- NeurIPS 论文 4KAgent:调度 50 多个模型把任意图修到 4K — _vztu · 2026-09-13