新书误称 Transformer 缺乏循环性，研究者批评其忽视 Anthropic 可解释性成果

repligate · x · 2026-11-14

Tessera Antra 转发并批评一本新出版书籍对 Transformer 架构的常见误解：书中称 Transformer 缺乏循环性（recurrence）、缺乏全局工作空间（global workspace），但这一说法与 Anthropic 已发表的可解释性研究结果相悖，也忽视了早已广为人知的层级专门化（layer-wise specialization）与神经元可解释性进展。作者指出这一误传在甚至最新的文献中仍在持续，并推荐了 @Sauers 制作的循环直觉动画帮助理解。引用的书中原文段落称：即使 LLM 发展出模块化，若全局工作空间位于感知模块之后的层，其输出也无法回传给感知模块。