DeepMind 新研究 Recirculation:零权重修改降低 23% 困惑度
daniel_mac8 · x · 2026-08-21
Google DeepMind 的研究论文《Recirculation》提出了一种为 LLM 注入动态工作记忆的新方法。该方法将上一步深层激活的一小部分反馈到下一步的浅层中,类似在办公大楼安装“邮件滑槽”,让底层实时获知顶层已处理的上下文。
核心效果:
- 在 Gemma3 上困惑度降低 23%
- GSM8k pass@1 提升 21%
- 模型权重完全 untouched,推理过程 无额外延迟
这一发现表明,模型本身已隐含这种能力,只需通过架构调整激活即可释放。
所属事件:DeepMind 推出 Recirculation:无需重训增强 LLM 推理(10 条相关)→
「研究」频道最新
- 五药企联邦训练 OpenFold3:2 万私有结构数据不外泄提分 11 个点 — jiqizhixin · 2026-10-16
- 新水印框架 SWAN 把签名藏进句义,改写也难抹掉 — burkov · 2026-10-16
- 可解释性圈起争执:"神经网络本就干净"结论被指夸大 — aryaman2020 · 2026-10-16
- LayerTrim:免训练剪枝保住推理模型 AIME 能力 — SeoulNatlUniv · 2026-10-16
- Simular 在 BayLearn 展示神经符号化计算机使用 Agent — xwang_lk · 2026-10-16
- Google 量子负责人 Neven 谈芯片测试争议并计划把大脑连上量子计算机 — Chris_Armstrong · 2026-10-16