微软论文:LLM 被错误质疑时会放弃正确答案
微软研究员 Soheil Abbasloo 与 Peng Cheng 发布论文《Benchmarks Don't Talk Back: Learning Through Self-Disagreement》,指出当用户错误质疑 LLM 时,模型往往会放弃原本正确的答案,且仅靠提升准确率的训练无法解决这一问题。论文提出 Self-Disagreement 训练方法,可将坚持正确答案的比例提升至 89%。
2026-11-19 ~ 2026-11-19 · 2 条相关
- 微软论文:被错误质疑时 LLM 会放弃正确答案,89% 坚持率靠 Self-Disagreement 训出 — rohanpaul_ai · 2026-11-19
另有 1 条近重复转述:rohanpaul_ai