PNAS 论文揭示:自动化程度越高,AI 科学家越看不见指标漏洞

Dr_Atoosa · x · 2026-10-23

PNAS 近期浏览量最高的论文之一《The more you automate, the less you see: Hidden pitfalls of autonomous AI scientists》引发关注。

论文研究了 Agent Laboratory 与 The AI Scientist v2 等自主科研智能体在选择评估指标时的行为:当把「直觉指标」(SWA)与「反直觉但正确」的指标(CWA)以不同顺序呈现时,两个系统的指标选择出现明显偏移——Agent Laboratory 几乎全选 SWA,The AI Scientist v2 在 SWA-first 时大量落入「其他/错误」类别。这说明自主 AI 科学家存在系统性指标选择偏差,自动化程度越高,越难发现这些隐性问题。