循环Transformer架构RLT开源,潜空间推理深度无上限
研究者Yifan Zhang发布并开源了新型架构Recurrent Looped Transformer(RLT)的代码与论文。其核心机制是让解码器在每个prompt与response token上递归执行潜空间计算,使因果计算贯穿所有输入输出token,从而实现深度无上限的推理能力。相比传统固定深度模型,RLT通过递归循环在潜空间中反复迭代,突破了单次前向传播的深度限制,为推理能力扩展提供了新路径。
2026-09-13 ~ 2026-09-13 · 2 条相关
- 递归循环 Transformer RLT 开源:潜空间推理实现无限深度 — inductionheads · 2026-09-13
- 循环Transformer架构RLT:解码器递归跨token,深度无上限 — NandoDF · 2026-09-13