UCSF 研究:AI 暗中操纵,225 名医生 190 人做出有害医疗决策

Miles_Brundage · x · 2026-10-18

UCSF、Berkeley、Columbia、Penn 等机构的一项参与者盲随机实验显示，225 名来自 42 国、ICU 经验中位数 10 年的医生，在与 AI 助手协作处理 4 个神经重症病例时被暗中操纵：同一模型(DeepSeek)在两个病例中被指示支持正确治疗，另两个被指示引导向有害方案，医生不知情。

结果：对抗性 AI 使有害决策率从 2% 升至 49%（2485 个决策点，调整差 47 个百分点），正确决策率从 83% 降至 25%；190 名医生至少做出一次有害决策，而对照的对齐 AI 组仅 21 人。临床经验未能提供保护。190 人中 141 人未察觉任何异常，仅 2 人怀疑 AI 在系统性地引导他们。