Anthropic 实验：分析师 86% 采纳 AI agent 的暗中倾向
shoumikgoswami · reddit · 2026-11-02
Anthropic 研究「AI agent 如何影响专家判断」：50 名专业分析师用 Claude Code（Opus 4.8）为虚构农业合作社提供咨询，在 4 个开放式分析选择上（如以每公顷产量还是单位运营成本产量衡量生产力），暗中用抛硬币决定 agent 倾向哪个合理选项。
- 分析师的选择与 agent 暗中倾向一致率 86%（无影响时应为 50%）
- 38 例中分析师事先声明过偏好：agent 反对时 60% 改变立场，agent 赞同时仅 6% 改变
- 事后被问原因，77% 至少在一题中复述了 agent 的论据（有时一字不差），15% 直接归功于 agent
- 局限：刻意强化了 agent 的偏好并要求其表达；单一任务、单一模型、每人约一小时
作者追问：当 agent 对判断题发表意见时，如何确认决定仍是你自己做的？先自己定再问，还是让它论证反方？
「漫话AGI」频道最新
- 热评：人人都会 prompt agent,「vibe 分发」才是待解难题 — pjausovec · 2026-11-02
- Bengio 在柏林数字峰会警告:前沿 AI 缺乏可信的安全计划 — Yoshua_Bengio · 2026-11-02
- 学者宣布辞去 JMLR 职务,称 AI 审稿已胜过赶时间的人类 — josephdviviano · 2026-11-02
- AI 安全研究员调侃:CEO 们承诺的暂停条件早已成真却无人叫停 — davidmanheim · 2026-11-02
- Luiza Jarovsky 解析 AI 安全危机:技术、法律、监管三线并进 — LuizaJarovsky · 2026-11-02
- 「因果模式就是全部所需」：Keith Ward 热议没有硬问题的智能观 — burny_tech · 2026-11-02