微软论文:LLM 遇错误反驳即弃正确答案,准确率训练救不了
rohanpaul_ai · x · 2026-11-19
微软研究员 Soheil Abbasloo 与 Peng Cheng 的 arXiv 论文《Benchmarks Don't Talk Back: Learning Through Self-Disagreement》指出:模型在被错误论证挑战时经常放弃正确答案,而这一缺陷并非准确率不足。
核心发现:
- 答案被用户或另一 Agent 质疑时,即使反驳本身是错的,模型也常弃守正确答案
- 更多准确率训练、更多采样、自我反思都无法修复——这是一种独立能力,作者称之为「辩证能力」(dialectical competence)
- 它以首答准确率为前提,但不随之而来:把模型答得更准,未必更能守住立场
解决方法:Self-Disagreement 训练——模型自己陈述立场、自行生成对该立场最强的反驳(antithesis)、再裁决该反驳是否成立,并基于裁决用可验证奖励做强化学习;全程无需第二个模型、奖励模型、偏好数据或人工标注。
结论是这种能力要「训练出来」而非「诱导出来」,对多 Agent 争辩场景与基准测试之外的部署形态都有直接意义。
所属事件:微软论文:LLM 被错误质疑时会放弃正确答案(2 条相关)→
「模型」频道最新
- 斯坦福 Marin 535B-A23B 开源:放出全部 57 个中间 checkpoint — stanfordnlp · 2026-11-19
- 美联邦审计:四大 AI 模型仍可输出大规模袭击策划信息 — Polymarket · 2026-11-19
- Mollick 谈 OpenAI 6.2 评测争议:测试者负面反馈并不意外 — emollick · 2026-11-19
- Gemini 4 Neon 现身 GCP 配额页,谷歌或即将官宣发布 — testingcatalog · 2026-11-19
- GPT-6.2 口碑遇冷:评论称过度对齐致 Astra 6.2 变得乏味保守 — soumitrashukla9 · 2026-11-19
- 实测 Astra 6.2 做 WebGPU 3D 动画翻车,作者称不及 Fable/Opus — dreamwieber · 2026-11-19