统一定义大模型幻觉
机器之心 · wechat · 2026-07-19
这篇文章介绍了一篇关于“大模型幻觉统一定义”的 ICML 2026 position paper，以及配套基准 **HalluWorld**。 核心观点是：不同任务里“幻觉”对应的参考世界并不一样，摘要看的是源文档忠实性，开放域问答看事实性，RAG 和 Agent 还要显式考虑检索文档、参数记忆、环境状态与冲突策略。作者因此把幻觉形式化为：在指定参考世界模型、视图函数和冲突策略下，模型输出中某个可观察命题为 false。 文章进一步强调，很多错误不应都叫幻觉：规划错误、拒答、指令跟随失败都应与幻觉区分。基于这一框架，HalluWorld 构建了三类环境：GridWorlds、Chess 和 TerminalTasks，用规则式判定代替 LLM 裁判。实验显示，前沿模型在静态可见信息上接近饱和，但在多步状态维护、因果模拟和“不确定时应说不知道”方面仍明显薄弱。