马普所论文：开启推理让 LLM 更趋同，连错误也一起犯
rohanpaul_ai · x · 2026-11-05
Max Planck 智能系统研究所新论文《Does Reasoning Make Language Models Agree?》（Mila Gorecki、Moritz Hardt）研究推理对模型间一致性的影响。
- 论文区分「单体化」（模型以相关方式犯错）与「多样性」（同样准确的模型做出冲突决策）两种担忧
- 实验用 9 个 Qwen 与 GPT 模型、3 个基于美国人口普查数据的预测任务，对比开启/关闭推理两种设定
- 开启推理后模型间一致性上升，9 个模型全错的个体占比上升 2.0–2.4 个百分点——即错误也变得相关，换模型无法纠错
- 推理轨迹越长的个体，跨模型预测越不一致：调整准确率后一致性仅约 0.31–0.39
- 结论：要求模型更多推理促进一致，而观察到推理更长则预示分歧。对涉及对人的决策，应检查模型集里是否至少有一个答对，因为一致性上升可能意味着共同错误
所属事件:马普所新论文：开启推理让大模型回答趋同(2 条相关)→
「漫话AGI」频道最新
- 研究者观察:人人写邮件都开始故意装得不像 AI — JeremyNguyenPhD · 2026-11-05
- 博主预测:免费开源模型将把 OpenAI 逼向绝路 — alex_verem · 2026-11-05
- 前微软 Windows AI 工程师月烧 3000 美元 tokens,分享年度 AI 用法 — bibryam · 2026-11-05
- 独立开发者：Agent 时代第一个被抛弃的应用是番茄钟 — yihui_indie · 2026-11-05
- Nokia Bell Labs 赞助讲座：平台工人如何对抗算法管理 — danielequercia · 2026-11-05
- 研究者实测数月：AI 擅长证证明和跑实验，却造不出新算法 — tak3sh8 · 2026-11-05