无需重训，新方法让基础模型自改架构提升推理能力
TheGradient · x · 2026-08-20
论文提出了一种名为“循环”的推理时架构增强技术，无需重新训练即可显著降低困惑度并提升生成与推理任务的准确率。
核心原理与优势：
- 引入递归机制：通过特定形式的递归让模型作为动力系统跟踪信念状态，突破前馈 Transformer 深度限制。
- 零延迟成本：生成阶段几乎无额外延迟（仅在预填充阶段需串行处理）。
- 自适应变体：仅需微调超参数即可冻结原权重应用，在 Gemma3 系列上困惑度降低 23%，GSM8k 准确率提升 21%。
该研究展示了一条通过模型自身属性指导架构演化的新路径。
所属事件:DeepMind 推出 Recirculation：无需重训增强 LLM 推理(10 条相关)→
「模型」频道最新
- 预测:AI 用量持续增长,前沿模型收入增速却可能放缓 — yi111 · 2026-10-16
- Nolla Health 后训练 Nemotron 3.5：视觉诊断准确率 35% 升至 66.8% — LoganGrasby · 2026-10-16
- 开发者:除顶尖专家外,编码模型在软件各领域已全面超越人类 — zack_overflow · 2026-10-16
- 爆料预测:中国前沿模型或 2027 年 3 月追平 GPT-6 级别 — teortaxesTex · 2026-10-16
- Liquid AI 决策模型 d1-ultra 上线 Vercel AI Gateway — JosephJacks_ · 2026-10-16
- DeepLearningAI 周报:Haiku 5.5 降价九成、Gemini 4 Argon 输出上限升至 1M — DeepLearningAI · 2026-10-16