递归去噪器研究:给扩散模型加隐状态,推理越久解越准
burkov · x · 2026-09-11
该论文探索如何构建「跑得越久解越准」的迭代求解器。标准扩散模型只通过带噪状态传递信息,而递归推理器维护独立隐状态;作者研究给无时间步的去噪器加入持续隐状态,能否得到一个 anytime 求解器——无需显式时间条件或固定展开长度,持续精化解。
- 在数百万个唯一解谜题上训练递归去噪器:Sudoku-Extreme 用循环 Transformer,Maze-Unique 用局部卷积块
- 训练采用 4 步截断反向传播的短段 + 退火噪声计划逐步降低腐蚀强度
- 推理时同一个共享更新可应用数千步,隐状态持续前传,精度随计算时间递增
所属事件:持久记忆去噪模型成迭代求解器,数独破解率达 99.9%(2 条相关)→
「研究」频道最新
- Mandelbrot 集拼图结构在 Lean 中完成形式化计算,实拍级图表曝光 — geoffreyirving · 2026-10-28
- Geoffrey Irving 对 CSETH 突破给出 >80% 概率预测 — geoffreyirving · 2026-10-28
- 抗衰研究数据荒:Norn 募资 1500 万美元为 AI 备好训练数据 — juanbenet · 2026-10-28
- 研究员自曝置信度乌龙:把 SETH 当 CSETH,重估 P vs NP 赔率 — geoffreyirving · 2026-10-28
- Google 论文指出 softmax 标准实现藏两个数值 bug,引发形式验证讨论 — srush_nlp · 2026-10-28
- AI 提出的研究题 45/135 获专家认可有趣,覆盖数学物理等 — StanfordAILab · 2026-10-28