循环式Transformer提升隐式推理
du_yilun · x · 2026-07-16
转发一篇关于 **Looped Transformers** 的新论文：作者认为，**latent reasoning** 虽然速度快，但在大规模下精度难以追上 CoT。论文提出用 **looped padded backbone** 给隐式思考提供一个可并行的工作空间，并且可以像监督显式 CoT 那样进行训练。<br><br>核心结论是：这种相对简单的循环式结构，能够让隐式推理在保持并行效率的同时，获得接近 CoT 的效果。