PUMA：让推理模型更早停下
机器之心 · wechat · 2026-07-16
这篇文章介绍了一项针对长思维链推理模型的早停研究 **PUMA**，核心问题是：模型经常在已经得到最终答案后，还继续生成大量冗余 token。 ## 关键发现 - 作者统计了 5 个代表性模型，发现 **41%–52%** 的推理 token 其实出现在“最终答案已经形成”之后。 - 传统 early-exit 多看“答案是否已稳定”，但这不等于“推理是否真的收敛”。 - 置信度和答案一致性这类信号会出现较高误停率，尤其在模型还会继续自我纠错时。 ## PUMA 怎么做 - 不只看答案，而是看 **最近几步推理是否还在产生新的语义进展**。 - 如果相邻步骤开始重复复述、没有新信息，才把它视为候选退出点。 - 再用答案复核机制确认后真正停止；如果后面一直重复但仍不满足停止条件，LoopBreaker 兜底。 ## 实验结果 - 在 5 个长思考模型 × 5 个高难基准上，平均 **减少 26.2% token**，准确率基本不掉。 - 在代码生成和多模态推理上也能零样本迁移，分别减少约 **18%–19%** 和 **23.8%–33.6%** token。 - 把这种“该停就停”的信号做成训练目标后，还能进一步内化进模型。