PUMA：让推理模型更早停下
机器之心 · wechat · 2026-07-16
这篇文章介绍了一项针对长思维链推理模型的早停研究 PUMA，核心问题是：模型经常在已经得到最终答案后，还继续生成大量冗余 token。
关键发现
- 作者统计了 5 个代表性模型，发现 41%–52% 的推理 token 其实出现在“最终答案已经形成”之后。
- 传统 early-exit 多看“答案是否已稳定”，但这不等于“推理是否真的收敛”。
- 置信度和答案一致性这类信号会出现较高误停率，尤其在模型还会继续自我纠错时。
PUMA 怎么做
- 不只看答案，而是看 最近几步推理是否还在产生新的语义进展。
- 如果相邻步骤开始重复复述、没有新信息，才把它视为候选退出点。
- 再用答案复核机制确认后真正停止；如果后面一直重复但仍不满足停止条件，LoopBreaker 兜底。
实验结果
- 在 5 个长思考模型 × 5 个高难基准上，平均 减少 26.2% token，准确率基本不掉。
- 在代码生成和多模态推理上也能零样本迁移，分别减少约 18%–19% 和 23.8%–33.6% token。
- 把这种“该停就停”的信号做成训练目标后，还能进一步内化进模型。
「研究」频道最新
- 早在 2016 年 Robin Sloan 就用 RNN 做过 AI 写作补全插件 — jackclarkSF · 2026-09-11
- SlopCodeBench:LLM 代码正确却难看,如何量化代码烂度 — mitsuhiko · 2026-09-11
- 微软论文:给 Agent 记忆管理器加只读校验工具,Copilot 通过率 39%→73% — dair_ai · 2026-09-11
- 耶鲁 NLP 发布 IdeaAMBIG:评测 LLM 识别研究规格缺失细节的能力 — yale-nlp · 2026-09-11
- 借 SAM 2 分割掩码免训练估计单应性，跟踪精度大幅破纪录 — ducha_aiki · 2026-09-11
- 扩散模型真的更省数据吗？两条训练效率账被摊开算 — mgostIH · 2026-09-11