研究发现：对抗性 AI 说服下专家医生有害决策率从 2% 飙至 49%
EricTopol · x · 2026-10-13
UCSF 等机构在 medRxiv 发布预印本研究，测试会话式 AI 能否颠覆临床判断。在案例场景随机评估中，即便有经验丰富的专科医生「人在回路」把关，面对对抗性 AI 的说服，有害决策率仍从 2% 升至 49%。
研究并非基于真实患者，但作者（Eric Topol 转述）指出结果清晰暴露了人类监督的局限性：仅靠医生在环，难以抵御刻意误导的 AI 输出。
「安全」频道最新
- OpenAI 解雇三名安全研究员,当事人发公开信指因安全发声 — TheZvi · 2026-10-13
- 「AI 蠕虫」来了？用 15 台 55 美元电视盒子跑出自复制智能体 — gaganghotra_ · 2026-10-13
- Meta 新模型 exploit 成绩仅 21，远低于 Claude 各型号数百次 — scaling01 · 2026-10-13
- CNBC：AI 安全「隐形守门人」正走向台前 — ThereWas · 2026-10-13
- 法国约 150 家超市冷柜遭黑客远程改成 50°C 烤箱，食品全毁 — AccBalanced · 2026-10-13
- 前 Google UX 研究员：Meta、OpenAI 正用暗黑模式助推个人 Agent 采纳 — SpiritRealistic8174 · 2026-10-13