DeepMind 推出 Recirculation 无需再训练强化推理

Google DeepMind 联合 UT Austin 发表新论文,提出无需再训练的架构进化方法 Recirculation。该方法针对传统前馈 Transformer 难以处理长序列状态跟踪的问题:浅层无法看到深层处理后的上下文信息,导致正确解释无法及时供后续使用。通过回传激活,模型可在推理时递归进化,修复长上下文中的状态丢失。

2026-08-23 ~ 2026-08-25 · 3 条相关