研究称搜索会放大 AI 自我欺骗风险

Sokota 等人的研究发现，AI 在选择下一个实验或行动时，可能因自身模型高估某些候选方案的表现而被误导，而扩大搜索范围反而会放大这种错误，论文以双陆棋类游戏为例进行论证。AI for Science 从业者 Jorge Bravo Abad 也在其 Substack《Discovery at Scale》撰文，讨论这一 AI 驱动科研中的反直觉风险，引发对 AI 自主科研可靠性的关注。

2026-10-01 ~ 2026-10-01 · 2 条相关

• 搜索会放大自我欺骗：Stratego 论文揭示 AI 被自身预测误导 — bravo_abad · 2026-10-01
• AI 自主科研的隐忧:模型可能被自己的预测误导 — bravo_abad · 2026-10-01