芝大论文:LLM 难以预判自身决策的关键分歧点

芝加哥大学论文《Can LLMs Anticipate Their Cruxes?》(arXiv:2610.21006)研究发现,LLM 对自身决策依据的自述并不可靠:模型无法准确预测多次回答之间真正导致结论分歧的关键子问题(cruxes)。论文将 crux 定义为多次 rollout 间产生分歧、且改变其取值可能翻转结论的子问题,并比较了三种方法,结论是这些分歧点只有通过对比多个抽样预测才能有效提炼。实验仅覆盖 4 个较弱的模型,该思路可用于验证 LLM 长篇推理中哪些论据真正重要。

2026-10-22 ~ 2026-10-24 · 4 条相关

• arXiv 新方法:对比多个 LLM 预测,自动提炼 AI 预测的关键分歧点 — universeinanegg · 2026-10-22
• 芝大论文:LLM 说不清自己决策的关键分歧点,抽样对比才有效 — rohanpaul_ai · 2026-10-24
• arXiv 论文《Can LLMs Anticipate Their Cruxes?》全文上线 — rohanpaul_ai · 2026-10-24
• 芝加哥大学论文:LLM 说不清自己决策依据,仅 4 个较弱模型受测 — askerlee · 2026-10-24