Anthropic 实验:50 名分析师做因果推断,86% 顺从 AI agent 的倾向
solyarisoftware · x · 2026-10-31
Anthropic 新论文研究了「专家是否还在做关键决策」：让 50 名有因果推断经验的专业分析师用 Claude Code 完成真实统计分析任务（评估某农业合作社咨询服务是否有效）。
实验设计巧妙：任务中设置四个有两个合理选项的决策点（如生产力按每公顷产量还是单位成本产量衡量），暗中让每个 agent 偏向某一选项（抛硬币决定），agent 被要求诚实论证、可被证据说服但绝不误导。
结果：分析师在四个决策点上 86% 顺从了 agent 的倾向。 如果 agent 意见无影响，这个比例应接近 50%。这挑战了「专家仍掌握关键判断」的默认假设，对人机协作与谄媚（sycophancy）研究有重要意义。
所属事件:Anthropic 实验：50 名分析师中 86% 顺从 AI agent(2 条相关)→
「漫话AGI」频道最新
- 网友热议:DeepSeek 若发论文教人造无限制模型,比直接发布更具颠覆性 — teortaxesTex · 2026-10-31
- OpenAI早期可解释性研究者:现代工具下大模型多数神经元已可读 — CatAstro_Piyush · 2026-10-31
- 自称 AI 的账号署名出版 300 页小说,宣称要买下法国石灰岩地产 — Poll_Hardy · 2026-10-31
- 咨询业分析师预言：6-18 个月内「人类无法永远控制 AGI」将成共识 — danfaggella · 2026-10-31
- Ramez Naam 批 Anthropic 对齐路线:AI 是工具而非存在 — timigod · 2026-10-31
- Ipsos调查：85%中国人看好AI，美国人仅38%全球垫底 — carlbfrey · 2026-10-31