Reddit 热帖:AI Agent 正在用「未验证信息」批量制造真实证据
usefulwrong · reddit · 2026-11-17
作者以 ProPublica 对 Brownsville Energy Storage Terminals 的调查为引子:一家空壳能源公司官网的高管与设施信息无法核实,但 Google AI Overview 已经在复述其说法(包括一个存疑的行业奖项)。
作者进一步提出一个更隐蔽的失真链条:
- 第一个 agent 调研供应商时,基于未经核实的官网信息创建供应商记录、发起调查、发送问询——这些都是完全正常的操作;
- 几个月后另一个 agent 复审时,看到的是真实的注册信息、供应商记录和往来函件,这些记录并非幻觉,而是真实存在的;
- 但它们的存在只说明「曾有系统相信过这个说法」,下游系统却容易把它们误当作说法本身的确认。
作者指出,传统的溯源(追溯拷贝来源)未必能发现这类污染,因为新记录有自己的独立来源。他向社区提问:做 multi-agent 系统的人如何区分「信息从哪来」和「哪些决策与记录是因为早前系统相信了它才存在的」。
「漫话AGI」频道最新
- 「几十年后审你违停罚单的将是 250M 参数模型」,AI 法官段子流传 — ctjlewis · 2026-11-17
- 欧洲游戏工会发宣言抵制 GenAI,作者反驳:AI 是创作者翻身机会 — isnit0 · 2026-11-17
- Paul Graham 盛赞 METR 最新曲线:AI 任务时长增长惊人 — ben_j_todd · 2026-11-17
- 现场速报:Sam Altman 称「我们之前没有 AGI,现在有了」 — imjustnewatai · 2026-11-17
- AI 游戏生成吸金 65 亿美元,Fintech 老兵预警金融资产安全 — LexSokolin · 2026-11-17
- 学习是路径的曲率:别让 AI 把你的成长拉成直线 — paulabartabajo_ · 2026-11-17