仅凭一篇预印本，Google AI 概览彻底反转结论

sayashk · x · 2026-08-05

研究人员在发布关于“AI Agent 能否进行开放式研究”的论文后，发现 Google 的 AI Overview 在数小时内将其对该研究核心问题的答案从自信的“是”彻底反转为自信的“否”。

作者指出这把双刃剑：虽然系统根据新证据更新回答是好事，但仅凭一篇未经同行评审的 arXiv 论文就完全翻转结论令人担忧。这说明恶意行为者可以轻易通过发布对抗性论文来操纵 AI 的权威摘要。相比之下，人类专家在更新观点时，会更加谨慎地将单篇新论文与现有文献体系进行权衡。