审计 AI 事实核查工具：18 次引用就有 1 次是编造的

jonathancheckwise · reddit · 2026-08-25

作者在审计自建的事实核查管道时发现，约 1/18 的引用链接是死链或从未存在过。根本原因在于系统直接信任模型生成的引用列表，而非检索层返回的真实链接。修复方案包括：仅展示检索层返回的 URL、限制模型仅引用检索集、在展示前探测 URL 可用性、以及将源可靠性评分与域名信誉分开。作者强调，“模型引用”不等于“源存在”，必须验证引用的真实性。