普林斯顿等提出循环式 Transformer:序列越长计算链越长
TheTuringPost · x · 2026-10-17
Turing Post 转述了普林斯顿大学与宾夕法尼亚大学提出的新架构 Recurrent Looped Transformer(RLT):让 Transformer 在处理每个 token 后携带并更新一个持续运行的隐藏状态。
其核心吸引力在于:更长的输入序列会自然形成更长的计算链,而不需要为每个 token 增加更多层——即可以用固定深度的网络换取随序列增长的推理计算量。
Turing Post 是面向工程师与研究员的 AI Newsletter,称有来自各大 AI 实验室、VC 与高校的 10 万以上读者。
所属事件:普林斯顿等提出循环式 Transformer,大幅提升长序列外推能力(3 条相关)→
「研究」频道最新
- 陶哲轩提出「四种数学化」框架:AI 重度使用需强人类理解护航 — ravithejads · 2026-10-17
- 王梦迪团队 LabOS 登 Nature:AI 协助提出假设与设计实验 — MengdiWang10 · 2026-10-17
- 「话到嘴边」式检索成新难题:Agent 时代检索系统的重要盲区 — bclavie · 2026-10-17
- AI 圈热议:「话到嘴边」查询成检验检索系统意图理解的新标尺 — ctjlewis · 2026-10-17
- micro1 发布 LegalReasonBench:用真实法律事务测模型长程推理 — douwekiela · 2026-10-17
- LEASH 框架:小模型打头阵,成本降 19.2% 媲美全时 Claude Opus 5 — xwang_lk · 2026-10-17