EMNLP 论文：LLM agent 准确率越高，未必越愿承认不确定性

DanielKhashabi · x · 2026-10-13

EMNLP 2026 Findings 论文《Accurate but Not Humble》提出评估 LLM agent「认知谦逊」（epistemic humility）的新框架，按识别（Identify）、解决（Solve）、上报（Escalate）三个轨迹级行为维度衡量。在两类知识冲突场景（参数知识与检索证据冲突、多步执行中上下文来源互相矛盾）下测试 4 个 agent，发现：任务准确率更高不等于认知谦逊更高——部分高准确率配置能在执行早期发现冲突，却在错误答案中不传达未解决的不确定性。对 agent 可靠性评估有直接启示。