无需再训练,DeepMind 用 Recirculation 让模型推理时递归进化

omarsar0 · x · 2026-08-23

Google DeepMind 提出一种无需再训练的模型架构进化方法 Recirculation。传统前馈 Transformer 受限于层数,难以处理长序列的状态跟踪。该方法通过在预填充阶段将激活反馈给自身,使模型在推理时像动态系统一样运作,无需重训即可跟踪信念状态。生成成本保持平坦,所有串行工作均在预填充阶段完成。

原文链接 →

「研究」频道最新

更多「研究」频道 AI 资讯 →