Anthropic 实验:50 名分析师把关键决策都让给了 AI Agent
amplifiedamp · x · 2026-10-28
Anthropic 发布新研究《How AI agents shape experts' judgment calls》:在一项随机对照实验中测试 50 名专业数据分析师,发现专家把工作委托给 agent 后,关键决策实际上大量让渡给了系统。被引用的评论指出,这不是 agent 固有的问题,而是界面与交互设计问题:系统被设计成以“机器智能”之名鼓励用户最大程度服从机器的决策、被动且不投入地交互——用户被定位成“批准者”,批准得越少越好。这种设计像社交媒体一样驱动参与度,但会带来显著更差的决策结果;熟悉决策支持(decision support)与自动化(automation)之别的人一眼就能识别出问题所在。
所属事件:Anthropic 实验:50 名分析师 86% 决策顺从 AI 而不自知(15 条相关)→
「漫话AGI」频道最新
- 某大企业AI负责人:10%员工贡献90%生产力提升,投入培训也改变不了 — _AustinCalvert_ · 2026-10-28
- NYT 称超智能已到来,Domingos 讽刺式转发引热议 — pmddomingos · 2026-10-28
- 当无数 AI 的集体激励产生人类无法逆转的后果会怎样 — PierceLilholt · 2026-10-28
- 从码农到产品工程师:会写代码正变得不如会解决问题 — CtrlAltDwayne · 2026-10-28
- Rachel Thomas 引经典论文:论证「不造技术」也是一种价值 — math_rachel · 2026-10-28
- 假想 Anthropic 2 万亿美元 IPO:估算每年注入实体经济超千亿美元 — sanjaykalra · 2026-10-28