递归去噪器研究：给扩散模型加隐状态，推理越久解越准
burkov · x · 2026-09-11
该论文探索如何构建「跑得越久解越准」的迭代求解器。标准扩散模型只通过带噪状态传递信息，而递归推理器维护独立隐状态；作者研究给无时间步的去噪器加入持续隐状态，能否得到一个 anytime 求解器——无需显式时间条件或固定展开长度，持续精化解。
- 在数百万个唯一解谜题上训练递归去噪器：Sudoku-Extreme 用循环 Transformer，Maze-Unique 用局部卷积块
- 训练采用 4 步截断反向传播的短段 + 退火噪声计划逐步降低腐蚀强度
- 推理时同一个共享更新可应用数千步，隐状态持续前传，精度随计算时间递增
「研究」频道最新
- 稀疏注意力可做多层级：DeepSeek V3.2 思路与搜索排序系统同构 — nptacek · 2026-09-11
- con-leche：用 Lean 证明自身一致的外部 Lean 检查器开源 — burny_tech · 2026-09-11
- 全球社区用 agent 研究循环冲击量子破解 secp256k1 椭圆曲线 — gajesh · 2026-09-11
- k3报告细节：数百万并发沙盒的RL训练规模确认 — stochasticchasm · 2026-09-11
- kalomaze:fable 5 部分问题出在后训练没做熟 — kalomaze · 2026-09-11
- 世界模型 vs LLM：下一个 token 预测为何建不出内部表征 — TheTuringPost · 2026-09-11