新论文发现，推理模型答对后继续想反而会变差
zainhas · x · 2026-07-26
这条帖分享了一篇新论文 《Thinking Past the Answer: Evaluating Harmful Overthinking in Large Reasoning Models》。论文讨论的是：推理模型并不总是“想得越久越好”，尤其当模型已经找到正确答案后，继续推理可能反而把答案带偏。
从配图中的摘要可以看出，作者主要做了几件事：
- 提出一种 prefix-level trajectory evaluation 方法，用来区分“无害的啰嗦推理”和“有害的过度思考”。
- 发现很多看起来很吃推理的 benchmark，其实在模型答对后并不需要太多额外思考。
- 在首次出现正确前缀时就停止推理，准确率最高可比标准推理提升 21%。
- 早停策略能把啰嗦式过度思考减少 最高 50%，但仍无法完全消除有害 overthinking。
- 误差分析显示，正确性偏移主要来自逻辑漂移和视觉重解释。
- 这些结论不只适用于多模态 benchmark，也能推广到纯语言推理任务。
论文作者包括 Simone Caldarella、Davide Talon、Rahaf Aljundi、Elisa Ricci 和 Massimiliano Mancini。
「研究」频道最新
- FrontierML 榜单：开源与闭源模型在端到端 ML 任务上差距仍大 — scaling01 · 2026-10-27
- Datology Curation Studio 线上深潜：少于 20% 算力匹配最强基线 — josh_wills · 2026-10-27
- KANLab 开源：浏览器里可视化玩转 KAN 网络 — Lukas Niehaus · 2026-10-27
- CMU 提出 LLM2Cert：LLM 生成证书，SMT/Lean 自动验证 — CarnegieMellonU · 2026-10-27
- NVIDIA 开源 FLORA：机器人数据引擎，成本仅 GPT-6 Astra 的 1/125 — nvidia · 2026-10-27
- RSNA 2026 深度学习实验室回归:芝加哥四天八节动手 AI 课 — PRouzrokh · 2026-10-27