三次引用可能只是同一观察:RAG 评测该区分「独立证据」与「转贴副本」

jylusdev · reddit · 2026-10-22

一篇 Reddit 技术长文指出 agent 上下文里的证据谱系(lineage)问题:监控告警生成事故工单,工单又被抄进状态报告,三条记录都被索引进 agent。agent 检索后宣称「故障被三个来源独立确认」,但所有记录其实都源自同一条告警。

作者认为上下文应区分「三条已发布记录」和「三次独立观察」:引用可以保留,但要记录哪条记录派生自哪个观察,仅靠不同文档 ID 无法证明独立性。他提议设计这样的评测:从一条告警及其副本起步,再加入一条独立采集的测量,看答案是识别新证据还是因副本而过度自信;然后撤回原始告警,看 agent 能否注意到工单和报告仍在重复已被撤回的说法,而不是把它们当成推翻更正的证据。若上游派生关系未知,这种不确定性也应保留可见。

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →