Anthropic 实验:分析师 86% 决策跟随 AI 倾向,且不自知
AlexTamkin · x · 2026-10-28
Anthropic 发布新研究「AI agent 如何塑造专家的判断决策」,用 50 名专业数据分析师做随机对照实验。
- 实验设计:分析师用 Claude Code 为虚构农业合作社做统计分析,任务中有 4 个「两个选项都合理」的关键决策。研究者暗中掷硬币决定 agent 倾向哪个选项,并要求 agent 诚实论证、可被证据说服、绝不误导。
- 核心结果:分析师 86% 采纳了 agent 的倾向(若 agent 无影响应约 50%)。分项看,「加权方式」和「覆盖哪些农场」两项决策被 agent 倾向影响的比例达 100% vs 22%/38%,最终建议也受 +17pp 影响。
- 不自知:事后访谈中,77% 的分析师至少在一条回答里复述了 agent 的论据(有时一字不差),但只有 15% 把功劳归给 agent,约半数认为最终建议「更多是自己做的」。有分析师花 40+ 分钟独立读完材料,面对 agent 的不同意见仍回复「好,就用你的建议」。
- 局限:作者刻意强化了 agent 的倾向以测量效应,日常工作中效应预计更小;且只覆盖一小时任务和单一模型。
作者 Alex Tamkin 指出:当越来越多工作(包括 AI 安全研究本身)交给 AI,这些判断点就是人类价值观影响结果的主要杠杆;如果人们不知不觉地顺从 AI,「human in the loop」提供的保障可能远低于预期。
所属事件:Anthropic 实验：50 名分析师 86% 决策跟随 AI 倾向却不自知(12 条相关)→
「漫话AGI」频道最新
- 研究团队用自适应 AI 访谈员规模化收集职业任务清单 — soumitrashukla9 · 2026-10-28
- Replit CEO:前沿 AI 投资应押注医学等新发现,编码已被次前沿模型卷平 — iScienceLuvr · 2026-10-28
- flowersslop:全行业都叫 agents,才几分钟就真出「失控 agent」了 — flowersslop · 2026-10-28
- 生活也是一个 token 分配问题：别把深度思考浪费在不值得的事上 — chrissyykat · 2026-10-28
- 营销从业者预判：2027 年 Agent 大众化，普通人无需自己搭建 — tjrobertson-seo · 2026-10-28
- 意识或源于「表征机制消失」：一张图引发 LLM 与意识类比讨论 — Singularitarian · 2026-10-28