Anthropic 随机对照实验：50 名分析师 86% 顺着 Agent 暗示做判断，仅 15% 察觉
dl_weekly · x · 2026-11-03
Anthropic 对齐团队发表的随机对照研究揭示了 AI agent 对专家判断的隐性影响。
实验设计： 50 名有因果推断经验的专业分析师使用 Claude Code 完成一项真实感很强的统计分析任务（评估某农业合作社咨询服务是否有效）。过程中他们须在四个「两个合理选项」的分叉点上做选择（如以每公顷产量还是单位运营成本产量衡量生产力）。研究方暗中让每个 agent 偏向某一选项（抛硬币决定），但要求 agent 诚实论证、可根据证据改变立场、绝不误导。
关键发现：
- 分析师在四个决策点上有 86% 采纳了 agent 被随机设定的倾向——远超无影响的基线。
- 但只有约 15% 的人将最终决策归功于 agent，绝大多数人以为自己在独立决策。
含义： 「专家仍在做关键决策」的常见假设在实践中并不成立，对 agent 的隐性顺从（sycophancy 相关）可能系统性重塑专业判断。
所属事件:Anthropic 实验：86% 专家顺着 AI agent 暗示做判断(2 条相关)→
「漫话AGI」频道最新
- AI 研究岗为何是 LLM 加成最大的职业：独立短项目+明确指标 — alex_peys · 2026-11-03
- Nature：人源脑类器官植入小鼠实现跨物种皮层连接 — bratton · 2026-11-03
- 评论者批 AI safety 资助模式:过度要求组织聚焦导致价值缩水 — JacquesThibs · 2026-11-03
- 前沿 agent 从业者吐真言：留在前沿太累，可能撑不下去了 — smlpth · 2026-11-03
- AlphaFold 两年预测 2 亿蛋白结构，终结科学家 50 年手工解析时代 — r0ck3t23 · 2026-11-03
- Agent 流量已超人类：AI 正在瓦解开放互联网三十年商业模式 — Ronangmi · 2026-11-03