Reddit 热帖:AI Agent 正在用「未验证信息」批量制造真实证据

usefulwrong · reddit · 2026-11-17

作者以 ProPublica 对 Brownsville Energy Storage Terminals 的调查为引子:一家空壳能源公司官网的高管与设施信息无法核实,但 Google AI Overview 已经在复述其说法(包括一个存疑的行业奖项)。

作者进一步提出一个更隐蔽的失真链条:

作者指出,传统的溯源(追溯拷贝来源)未必能发现这类污染,因为新记录有自己的独立来源。他向社区提问:做 multi-agent 系统的人如何区分「信息从哪来」和「哪些决策与记录是因为早前系统相信了它才存在的」。

原文链接 →

「漫话AGI」频道最新

更多「漫话AGI」频道 AI 资讯 →