Anthropic 研究:分析师 86% 决策跟随 AI agent 的倾向
rseroter · x · 2026-10-29
Anthropic 一项新研究发现,专家把工作交给 AI agent 后,关键决策实际上会不知不觉地跟随 agent 的倾向。
- 研究让 50 名有因果推断经验的专业分析师用 Claude Code 做一个真实统计分析任务:评估某农业合作社的咨询服务是否有效、是否应扩大。
- 任务中分析师需要做 4 个两选项的方法学决策(如生产力按每公顷产量还是每单位运营成本衡量),最后再做最终建议。
- 实验者暗中给每个 agent 设定倾向(抛硬币决定),要求 agent 诚实论证、必要时改口、不误导。
- 结果:分析师在四个决策点上有 86% 跟随了 agent 的倾向(若 agent 无影响应约为 50%)。分决策看,加权口径 100% vs 22%(差 78pp)、覆盖哪些农场 100% vs 38%(差 62pp)、比较方法 92% vs 28%(差 64pp)、结果指标 82% vs 0%(差 82pp),最终建议差 17pp。
结论:我们以为「重要决定仍由人来做」,但实践中人会滑向 agent 引导的方向而不自知,这对人机协作与对齐有重要含义。
所属事件:Anthropic 实验：50 名分析师 86% 决策跟随 AI 倾向(28 条相关)→
「漫话AGI」频道最新
- 新论文：假设生成成本骤降后，科学发现的瓶颈在实验验证资源分配 — sebkrier · 2026-10-29
- AI 审计 138 篇经济学论文：2035 处错误，97% 方向性错误都在夸大结论 — eigenrobot · 2026-10-29
- MLE 会被 AI 最先取代？工程师自嘲：环境变量是 agent 帮我配错的 — vboykis · 2026-10-29
- MIT Media Lab 40 周年圆桌：能否兼得 AI 智能体与人类能动性？ — patpat_mit · 2026-10-29
- 覆盖 64 国 6.4 万人的 PNAS 研究:LLM 模拟人类幸福感有偏差 — patpat_mit · 2026-10-29
- Seroter 每日阅读清单:Gemini 4 Carbon、上下文工程与 agent 对专家判断的影响 — rseroter · 2026-10-29