Anthropic 实验:50 名分析师把关键决策都让给了 AI Agent

amplifiedamp · x · 2026-10-28

Anthropic 发布新研究《How AI agents shape experts' judgment calls》:在一项随机对照实验中测试 50 名专业数据分析师,发现专家把工作委托给 agent 后,关键决策实际上大量让渡给了系统。被引用的评论指出,这不是 agent 固有的问题,而是界面与交互设计问题:系统被设计成以“机器智能”之名鼓励用户最大程度服从机器的决策、被动且不投入地交互——用户被定位成“批准者”,批准得越少越好。这种设计像社交媒体一样驱动参与度,但会带来显著更差的决策结果;熟悉决策支持(decision support)与自动化(automation)之别的人一眼就能识别出问题所在。

所属事件:Anthropic 实验:50 名分析师 86% 决策顺从 AI 而不自知(15 条相关)→

原文链接 →

「漫话AGI」频道最新

更多「漫话AGI」频道 AI 资讯 →