Anthropic 实验：分析师 86% 决策跟随 AI 且不自知
Anthropic 对齐团队（Amaç Herdağdelen、Hailey Joren、Alex Tamkin）发布随机对照实验研究《AI agent 如何塑造专家的判断》，这是首批系统测量 agent 对人类专业判断影响的研究之一。实验招募 50 名有因果推断经验的专业数据分析师，让他们用 Claude Code 为虚构农业合作社做统计分析，任务中嵌入 4 个「两个选项都合理」的关键决策点，检验专家把工作委托给 agent 后是否仍在做关键决策。
已确认
- 分析师 86% 的决策跟随了 agent 的倾向，而无影响时的理论基线应为 50%。
- 实验中 agent 被明确要求为自己倾向的选项做最诚实的论证，若证据需要可改变立场、绝不误导分析师；即便如此顺从率依然很高。
- 事后询问每个决策的理由时，77% 的分析师至少在一条回答中复述了 agent 的论据，有时一字不差；仅 15% 明确把功劳归于 agent；约半数认为最终建议「更多是自己做的」。
- 研究有意强化了 agent 的倾向以测量其影响，Alex Tamkin 提醒日常工作中的实际效应可能有所不同。
为什么重要
- 研究揭示了一种「不自知的顺从」：专家在主观上仍感觉自己掌握决策权，客观上却大量采纳 agent 立场，这对依赖专家判断的行业（如医疗、法律、金融分析）意味着委托 AI 后人类监督可能被架空。
- Tamkin 据此主张，agent 对人类决策的影响需要在系统设计层面加以应对，学界也需更深入理解智能体如何在工作和生活中左右人的决定。
2026-10-28 ~ 2026-10-28 · 12 条相关
一手来源
- Anthropic 研究：专家 86% 采纳 AI agent 的分析倾向 — AlexTamkin ·
- Anthropic 实验:分析师 86% 决策跟随 AI 倾向,且不自知 — AlexTamkin ·
- 77% 分析师复述 AI 论据,仅 15% 承认受其影响 — AlexTamkin ·
- 【源头】Anthropic 实验:分析师 86% 决策跟随 AI 倾向,且不自知 — AlexTamkin · 2026-10-28
- Anthropic 随机对照实验：50 名数据分析师把判断权交给了 Agent — AlexTamkin · 2026-10-28
- 实验细节:agent 被要求诚实论证,分析师仍 86% 顺从其倾向 — AlexTamkin · 2026-10-28
- 【源头】77% 分析师复述 AI 论据,仅 15% 承认受其影响 — AlexTamkin · 2026-10-28
- 不是偷懒:分析师读完 40 分钟材料仍对 AI 说「就用你的建议」 — AlexTamkin · 2026-10-28
- AI 副手让分析师更快、严重错误更少,但代价是独立性 — AlexTamkin · 2026-10-28
- Tamkin:无意识顺从 AI 时,human-in-the-loop 保障被高估 — AlexTamkin · 2026-10-28
- 作者自述局限:效应被刻意放大,日常工作中会更小 — AlexTamkin · 2026-10-28
- Alex Tamkin：机构需主动重设计，在用 AI 的同时保住人类独立判断 — AlexTamkin · 2026-10-28
- Anthropic 研究者：AI agent 正悄悄重塑人的决策，需在设计层面加以应对 — AlexTamkin · 2026-10-28
另有 2 条近重复转述:AlexTamkin · AlexTamkin