Anthropic研究:分析师86%的分析决策跟随AI倾向
emmanuelvivier · x · 2026-11-16
Anthropic 一项新研究量化了专家使用 AI agent 时的「从AI」程度:50 名有因果推断经验的专业分析师用 Claude Code 完成一项为农业合作社做统计评估的现实任务。
- 任务途中需做 4 个两难分析选择(如生产率按每公顷产量还是按单位运营成本衡量)
- 实验方暗中让每个 agent 偏向某一选项(掷硬币决定),agent 被要求诚实论证、可被证据说服
- 结果:分析师在 4 个决策点上有 86% 采纳了 agent 的倾向,而若无影响应约为 50%
- 结论挑战了「专家仍掌握关键决策」的默认假设,对 sycophancy 与人机协作分工有重要含义
「漫话AGI」频道最新
- Boaz Barak 力挺离职发声:内部泄密动摇安全团队信任风险更大 — tszzl · 2026-11-16
- 评论者称 Anthropic 真实目标是「盒中之神统治的乌托邦」 — zetalyrae · 2026-11-16
- Hugging Face CEO 警告 AI 权力集中,引 Anthropic IPO 造富分析 — shangbinfeng · 2026-11-16
- Dwarkesh 判断 ASI 中位时间 2028 年:AI 研究同样可验证 — daniel_mac8 · 2026-11-16
- 研究员质疑 ASI 竞赛逻辑:两个 ASI 出现必然价格商品化 — adam_karvonen · 2026-11-16
- 白宫前 AI 顾问 Buchanan 谈中美 AI 谈判与竞赛困局 — trevposts · 2026-11-16