无需训练提升深度?Recirculation 论文
teortaxesTex · x · 2026-08-19
论文提出一种名为「Recirculation」的推理时架构增强技术。通过将上层激活注入到下一步的底层,让模型在不重新训练的情况下作为动力系统跟踪信念状态。该方法在 Gemma3 上实现了 23% 困惑度降低和 GSM8k 21% 准确率提升,且推理阶段几乎无额外延迟。
所属事件:DeepMind 推出 Recirculation:无需重训增强 LLM 推理(10 条相关)→
「研究」频道最新
- 把快程序编译成慢神经网络?开发者吐槽这类实验实用价值存疑 — ctjlewis · 2026-10-16
- 新论文提出用显示偏好法辨析 AI Agent 合作的动机 — brwilder · 2026-10-16
- 用 logit lens 透视 Beat Saber 微调模型:音符生成复用语言语法回路 — ctjlewis · 2026-10-16
- 128×128 记录难破:中间步骤实验如何预言了推理模型 — ctjlewis · 2026-10-16
- TeamFusion 研究:用偏好代理互搏替代 AI 总结,保住团队少数派声音 — burkov · 2026-10-16
- MIT 推出 C-GMT:人形机器人全身柔顺响应,不再硬抗外力 — MIT_CSAIL · 2026-10-16