EMNLP 论文定位多智能体深度研究系统的忠实性与引用错误源头
EliasEskin · x · 2026-10-25
一篇将亮相 EMNLP2026 的论文《Who is the Agent to Blame?》研究多智能体深度研究系统中,忠实性与引用错误该归咎于哪个 agent。要点:
- 归纳 agent 失败的四种类型:幻觉、依赖未引用输入、输出未引用、引用不足,并提出用多轮蕴含判断将报告句子回溯到具体 agent。
- 在 AI-Q 系统实测:单看 agent 层面 Orchestrator 错误率约 30.9%,但它要为最终报告 84.7% 的错误负责;全局引用召回率约 58.7%。
- 两个低成本修复:让 Orchestrator 直接读取原始来源片段而非 Researcher 的综合笔记,或在提示词中加一句「不要使用未引用信息」,可将引用召回从 64.5 提升到约 69.7、精度到 94.1。
作者将于 10 月 25 日上午在 Hall H 展示海报。
「编程与Agent」频道最新
- SwarmOS：把 GitHub Issues 变成多 Agent 协作合同的开源编排层 — sn2006gy · 2026-10-25
- 论文提出自适应技能粒度框架，编码Agent运行时路由成功率达100% — dair_ai · 2026-10-25
- 研究：LLM 自我重写 Agent harness 两轮仅提升 2.8 分且不显著 — omarsar0 · 2026-10-25
- 开发者给 agent 线程加标签,跨机器一键过滤编排任务 — kevinkern · 2026-10-25
- 开发者：Agent 好用到能反过来告诉你怎么改进它自己 — Then-Programmer7221 · 2026-10-25
- SMP 工具 2 分 51 秒索引 9.6 万文件 Linux 内核树，跑分还揪出一个 1.5 秒查询 bug — Numerous_Beyond_2442 · 2026-10-25