无需再训练,DeepMind 用 Recirculation 让模型推理时递归进化
omarsar0 · x · 2026-08-23
Google DeepMind 提出一种无需再训练的模型架构进化方法 Recirculation。传统前馈 Transformer 受限于层数,难以处理长序列的状态跟踪。该方法通过在预填充阶段将激活反馈给自身,使模型在推理时像动态系统一样运作,无需重训即可跟踪信念状态。生成成本保持平坦,所有串行工作均在预填充阶段完成。
所属事件:DeepMind 推出 Recirculation 无需再训练强化推理(3 条相关)→
「研究」频道最新
- Halcyon:0.52B 参数省 18 倍算力超越 LlamaGen-XL/8 文生图基线 — JosephJacks_ · 2026-10-16
- GPT-6.1 审查 arXiv:6% 论文主定理有错,近两月降至 1.5% — nitarshan · 2026-10-16
- 研究:一个 just 之差就能改变 LLM 对话的走向 — StellaLisy · 2026-10-16
- SEAR 首次大规模对照研究:7 个前沿 LLM、330 项任务检验自进化机器人 — xiye_nlp · 2026-10-16
- Claude 助力连破椭圆曲线纪录后,EC Rank 挑战赛开放 156 个纪录位 — Jsevillamol · 2026-10-16
- 用超声替代胎儿 MRI,牛津团队做产前大脑 AI 建模 — AnnaCiaunica · 2026-10-16