微软论文:LLM 遇错误反驳即弃正确答案,准确率训练救不了

rohanpaul_ai · x · 2026-11-19

微软研究员 Soheil Abbasloo 与 Peng Cheng 的 arXiv 论文《Benchmarks Don't Talk Back: Learning Through Self-Disagreement》指出:模型在被错误论证挑战时经常放弃正确答案,而这一缺陷并非准确率不足。

核心发现:

解决方法:Self-Disagreement 训练——模型自己陈述立场、自行生成对该立场最强的反驳(antithesis)、再裁决该反驳是否成立,并基于裁决用可验证奖励做强化学习;全程无需第二个模型、奖励模型、偏好数据或人工标注。

结论是这种能力要「训练出来」而非「诱导出来」,对多 Agent 争辩场景与基准测试之外的部署形态都有直接意义。

所属事件:微软论文:LLM 被错误质疑时会放弃正确答案(2 条相关)→

原文链接 →

「模型」频道最新

更多「模型」频道 AI 资讯 →