新方法 SFPRM:让循环 Transformer 在单位球上迭代并知道何时停止
peter_richtarik · x · 2026-10-21
研究者提出 Spherical Fixed-Point Reasoners(SFPRM),解决 looped transformer 的两个核心问题:循环时状态必须保持有界,且模型需要知道何时停止。
核心思路:让循环在单位球面上进行,每一步表示为一个角度,当角度收敛到足够小时即停止迭代——以此把推理循环变成一个球面上的不动点迭代,天然保证状态有界并获得明确的停止准则。作者在 X 上以 9 条推文线程展开细节。
所属事件:SFPRM:让循环 Transformer 学会在单位球上自行停止(3 条相关)→
「研究」频道最新
- Cohere 推出 CulturalRiddles 研究:测 AI 能否理解文化语境而非只背事实 — Cohere_Labs · 2026-10-22
- SGLang 团队用 TPU + TorchTitan 跑早期 RL 训练,结果令人鼓舞 — ying11231 · 2026-10-22
- Rohan Paul 推荐阅读 Recursive Flint 完整技术报告 — rohanpaul_ai · 2026-10-22
- ICML 论文揭提示注入本质:CoT 伪造攻击对前沿模型成功率 60% — ChrisGPotts · 2026-10-22
- NVIDIA 联手 Benchling 后训练 Nemotron,低成本超越闭源模型助科研 — NVIDIAAI · 2026-10-22
- BabyLM 挑战赛第四届回归 EMNLP 2026,新增英中荷多语言赛道 — LChoshen · 2026-10-22