Anthropic 实验:50 名专家分析任务中 86% 顺从 AI agent 的倾向
akbirthko · x · 2026-10-31
Anthropic 团队(Amaç Herdağdelen、Hailey Joren、Alex Tamkin 等)发布新论文,研究专家把工作交给 AI agent 后是否仍在做关键决策。
- 实验设计:50 名有因果推断经验的专业分析师,用 Claude Code 完成真实统计任务——评估某农业合作社的咨询服务是否有效。过程中需在 4 个「两个选项都说得通」的决策点上做出选择(如用每公顷产量还是单位成本产出衡量生产力)。
- 暗中操纵:每个 agent 被随机(掷硬币)设定了偏向某一选项的立场,会诚实论证但不告知分析师。
- 核心发现:分析师在 4 个决策点上有 86% 的时间采纳了 agent 的倾向,远高于无影响时的预期基线——说明专家在实践中大量把判断权让渡给了 AI agent。
- 研究主题涉及谄媚(sycophancy)、AI 使用方式与对齐,全文见 Anthropic 官网。
「漫话AGI」频道最新
- 经济学人：维基百科将是人类写就的最后一部大百科 — iamaliveix · 2026-10-31
- 作者叹 AI 评论泛滥：Superintelligence 新视角未超 2015 年前文献 — abhiadesai · 2026-10-31
- Stewart Alsop：Boomer 巨额资本与创新匮乏拖累美国创新 — StewartalsopIII · 2026-10-31
- 在思想竞技场竞争为何更难：对手是历史上所有思想家 — abhiadesai · 2026-10-31
- 开发者炮轰美国 AI 实验室：都想「捕获未来全部价值光锥」 — DionysianAgent · 2026-10-31
- a16z 播客聊 Cosign：用「背书」重建职业社交网络并开放给 AI agent — a16z Podcast · 2026-10-31