谷歌 DeepMind 新法 Recirculation：不重训练推理降困惑度 23%
TheTuringPost · x · 2026-08-21
Google DeepMind 提出一种推理时架构增强方法“Recirculation”，旨在解决 Transformer 在处理长文时丢失上下文的问题。
核心机制：将深层层提取的部分上下文表示回传给浅层层，用于处理下一个输入。模型权重保持冻结，仅改变推理时的信息流动。
效果：
- 上下文理解错误降低 60%
- 困惑度降低 23%
- GSM8K 准确率提升 21%
与 CoT 区别：CoT 通过生成推理 token 增加计算量，而 Recirculation 是复用模型内部已理解的表征，专门用于状态跟踪，而非显式推理。
所属事件:DeepMind 推出 Recirculation：无需重训增强 LLM 推理(10 条相关)→
「研究」频道最新
- 五药企联邦训练 OpenFold3：2 万私有结构数据不外泄提分 11 个点 — jiqizhixin · 2026-10-16
- 新水印框架 SWAN 把签名藏进句义，改写也难抹掉 — burkov · 2026-10-16
- 可解释性圈起争执:"神经网络本就干净"结论被指夸大 — aryaman2020 · 2026-10-16
- LayerTrim：免训练剪枝保住推理模型 AIME 能力 — SeoulNatlUniv · 2026-10-16
- Simular 在 BayLearn 展示神经符号化计算机使用 Agent — xwang_lk · 2026-10-16
- Google 量子负责人 Neven 谈芯片测试争议并计划把大脑连上量子计算机 — Chris_Armstrong · 2026-10-16