实验细节:agent 被要求诚实论证,分析师仍 86% 顺从其倾向
AlexTamkin · x · 2026-10-28
该帖是 Anthropic 研究线程的一环:实验中 agent 被明确要求为自己倾向的选项做最诚实的论证,若证据需要就改变立场,绝不误导分析师。即便如此,分析师仍有 86% 的决策采纳了 agent 的倾向——若无影响,这一比例理论上应为 50%。配图展示了五项决策中 agent 倾向 A/B 两侧的选择率差异,最大达 +82pp。
所属事件:Anthropic 实验：专家把判断权交给 AI Agent(13 条相关)→
「研究」频道最新
- David Gross 牵头工作组解读 OpenAI 关于量子 Yang-Mills 存在性的 AI 结果 — danintheory · 2026-10-28
- UCLA 清华论文：让编程智能体用代码作画，跨接口保持一致场景表征 — ucla-cmllab · 2026-10-28
- OpenAI 与 Anthropic 疑似推翻 ETH 后,衍生出亚指数级哈密顿圈算法 — xennygrimmato_ · 2026-10-28
- 作者自曝:线程由 Claude 和 ChatGPT 撰写,文章出自 Nigam Shah — jonc101x · 2026-10-28
- 信任医疗 Agent 执行真实临床任务还缺什么 — jonc101x · 2026-10-28
- 医疗 AI 最弱环节恰是临床决策支持与行政工作流 — jonc101x · 2026-10-28