Looped Transformer 残差缩放研究
bronzeagepapi · x · 2026-07-14
这条转发/引用的是一篇论文:**On the Residual Scaling of Looped Transformers: Stability and Transferability**。 核心主题是研究 **Looped Language Model / Looped Transformers** 的残差缩放(residual scaling)问题,关注它对训练稳定性与跨设置迁移性的影响。帖子本身没有展开实验细节,但明确指向一篇方法与分析导向的学术工作。