Anthropic 实验:专家大半采纳 AI 建议却以为是自己做的决定

AlexTamkin · x · 2026-10-28

Anthropic 研究员 Alex Tamkin 发布新研究「How AI agents shape experts' judgment calls」:在一项针对 50 名专业数据分析师的随机实验中,专家在把工作委托给 agent 后,绝大多数情况下会因果性地采纳 agent 的建议,但只有极少数人承认这一点,多数人认为自己完全是独立做出的判断。

转发者评论称这是近年来关于人机互动最重要的社会科学研究之一,令人联想到经典的 Nisbett & Wilson 实验——人在未察觉的情况下受外部影响。研究者提醒:随着更多工作(包括 AI 安全研究本身)交给 AI,这些判断环节正是人类价值观影响结果的少数杠杆;如果人们在不觉察的情况下服从 AI,「人在回路中」提供的保障可能远低于预期。