球面不动点推理器 SFPRM:让循环 Transformer 学会自己停
GabGarrett · x · 2026-10-21
ZelaArber 等人提出 Spherical Fixed-Point Reasoners(SFPRM),解决循环 transformer(looped transformer)的两个核心难题:何时停止迭代、以及循环过程中状态如何保持有界。
方法是把循环约束在单位球面上:每一步迭代被视为球面上的一个角度,当角度足够小(即状态收敛)时停止循环。这样既给出自然的停止准则,又天然保证状态有界,适合需要迭代精化推理的场景。原帖附 9 条线程展开细节。
「研究」频道最新
- Sara Hooker PyTorchCon 演讲:单纯堆预训练规模已到极限 — PyTorch · 2026-10-21
- 设计抗蛇毒血清仅 64 小时,获批却要等 4-7 年 — DimitrisPapail · 2026-10-21
- ValsAI 发布 ClaimBench:1960 条财务声明实测 15 款决策模型 — denisyarats · 2026-10-21
- BrainLoRA 用单次因果前向预测脑活动,算力省 350 倍登顶 Algonauts — _akhaliq · 2026-10-21
- 立陶宛医学 AI 大会观察:本地模型成医疗研究刚需 — EmilPi · 2026-10-21
- KAIST 与 Meta 提出可编程检索框架 RPL,4B 模型胜过全部 8B 基线 — CShorten30 · 2026-10-21