DeepMind 推出 Recirculation 无需再训练强化推理
Google DeepMind 联合 UT Austin 发表新论文,提出无需再训练的架构进化方法 Recirculation。该方法针对传统前馈 Transformer 难以处理长序列状态跟踪的问题:浅层无法看到深层处理后的上下文信息,导致正确解释无法及时供后续使用。通过回传激活,模型可在推理时递归进化,修复长上下文中的状态丢失。
2026-08-23 ~ 2026-08-25 · 3 条相关
- 无需再训练,DeepMind 用 Recirculation 让模型推理时递归进化 — omarsar0 · 2026-08-23
- DeepMind 提出循环机制改进 Transformer 状态维持 — burkov · 2026-08-25
- DeepMind 论文:回传激活可修复长文本状态丢失 — rohanpaul_ai · 2026-08-25