研究者驳「循环 Transformer」:所谓递归只是绑参加深
savvyRL · x · 2026-09-03
savvyRL 重申其观点:无论加多少循环,Transformer 本质仍是前馈结构,这类「循环」只是参数绑定的深度递归,等价于把模型加深;真正的时间维度递归必须携带跨时刻的状态。作者引用其论文《The Topological Trouble With Transformers》(arxiv:2604.17121)与《Recirculation》(arxiv:2608.17981)作为论证依据。
所属事件:循环Transformer之争：加深网络还是可变深度创新(8 条相关)→
「研究」频道最新
- SimInfinity 机器人仿真基准将开源 1 万个真实场景仿真任务 — joemeno · 2026-10-18
- 论文：LLM 竞价采购平台可省 10%-71% 推理成本 — _onionesque · 2026-10-18
- Meta 论文提出「Agent Plasticity」:最强 agent 未必是最高效学习者 — rohanpaul_ai · 2026-10-18
- SAE 权重编辑让机器人听话,IIIT 海得拉巴论文入选 IJCAI 安全物理 AI 工作坊 — ponguru · 2026-10-18
- 南洋理工发布具身智能 Affordance 学习综述，系统梳理近 200 篇研究 — jiqizhixin · 2026-10-18
- 14.3M 参数通用决策引擎 vega-U：冷接任意冻结 LLM 最高达 0.811 准确率 — kalyan_kpl · 2026-10-18