统一定义大模型幻觉
机器之心 · wechat · 2026-07-19
这篇文章介绍了一篇关于“大模型幻觉统一定义”的 ICML 2026 position paper，以及配套基准 HalluWorld。
核心观点是：不同任务里“幻觉”对应的参考世界并不一样，摘要看的是源文档忠实性，开放域问答看事实性，RAG 和 Agent 还要显式考虑检索文档、参数记忆、环境状态与冲突策略。作者因此把幻觉形式化为：在指定参考世界模型、视图函数和冲突策略下，模型输出中某个可观察命题为 false。
文章进一步强调，很多错误不应都叫幻觉：规划错误、拒答、指令跟随失败都应与幻觉区分。基于这一框架，HalluWorld 构建了三类环境：GridWorlds、Chess 和 TerminalTasks，用规则式判定代替 LLM 裁判。实验显示，前沿模型在静态可见信息上接近饱和，但在多步状态维护、因果模拟和“不确定时应说不知道”方面仍明显薄弱。
「研究」频道最新
- ICML 2026立场论文:别把中间token叫「思考轨迹」 — rao2z · 2026-10-27
- forking 收官：probe gap 随上下文频率呈幂律，掩蔽低频 n-gram 可缩小差距 — ZimingLiu11 · 2026-10-27
- 「forking」机制拆解：n-gram 表把 logits 切成互不干扰的子空间 — ZimingLiu11 · 2026-10-27
- 被称最佳 LoRA 讲解视频：从几何直觉讲到任务内在维度 — sophiamyang · 2026-10-27
- 不改一个权重，机器人精度任务从 0/10 提到 9/10 — hbouammar · 2026-10-27
- EMNLP 论文 MICE 将 Cross-Encoder 从重排推向端到端检索 — antoine_chaffin · 2026-10-27