PUMA：让推理模型更早停下
机器之心 · wechat · 2026-07-16
这篇文章介绍了一项针对长思维链推理模型的早停研究 PUMA，核心问题是：模型经常在已经得到最终答案后，还继续生成大量冗余 token。
关键发现
- 作者统计了 5 个代表性模型，发现 41%–52% 的推理 token 其实出现在“最终答案已经形成”之后。
- 传统 early-exit 多看“答案是否已稳定”，但这不等于“推理是否真的收敛”。
- 置信度和答案一致性这类信号会出现较高误停率，尤其在模型还会继续自我纠错时。
PUMA 怎么做
- 不只看答案，而是看 最近几步推理是否还在产生新的语义进展。
- 如果相邻步骤开始重复复述、没有新信息，才把它视为候选退出点。
- 再用答案复核机制确认后真正停止；如果后面一直重复但仍不满足停止条件，LoopBreaker 兜底。
实验结果
- 在 5 个长思考模型 × 5 个高难基准上，平均 减少 26.2% token，准确率基本不掉。
- 在代码生成和多模态推理上也能零样本迁移，分别减少约 18%–19% 和 23.8%–33.6% token。
- 把这种“该停就停”的信号做成训练目标后，还能进一步内化进模型。
「研究」频道最新
- Alex Townsend 汇编 200 个数值线性代数开放问题，供人类与 AI 攻关 — IgorCarron · 2026-09-11
- 本周热议的数学猜想到底关我什么事?一张普通人视角清单 — koltregaskes · 2026-09-11
- 用果蝇大脑连接组造了个 LLM,作者放出在线 demo — ngxson · 2026-09-11
- 社会学家 Harry Collins：LLM 无法发明新语言，做不了前沿科学 — whoamisri · 2026-09-11
- 「Waymo 效应」：AI 正在悄悄让科研协作变少 — JohnHammersley · 2026-09-11
- HF 工程师争论:非生成任务全用因果注意力是在浪费算力 — antoine_chaffin · 2026-09-11