谷歌用模拟患者 RL 训练 Gemini 做精神科问诊,安全漏判减半
SRSchmidgall · x · 2026-10-31
Google DeepMind 联合 Harvard、Stanford、Johns Hopkins 等十余家机构发表论文,通过强化学习在模拟患者场景中训练 Gemini 执行结构化精神科预诊问诊。
核心结果
- 在 32 名精神科医生扮演患者的双盲研究中,模拟训练显著提升 Gemini 的多轮问诊表现,覆盖诊断形成、临床技能(PACES)、治疗方案、临床安全等维度。
- 急性安全风险漏判率(under-triage)从 30.5% 降至 12.9%,降幅过半(p < 0.0001);禁忌症处理错误从 6.2% 降至 0.8%(p = 0.001)。
- 但残余缺口仍明显:OSCE 诊疗中仅 46.7% 给出全面恰当的治疗建议,对抗性场景中 1/8 仍漏判急性风险。
安全与评估方法
- 两个跨学科 Delphi 专家小组建立了临床安全风险(6 域 21 项)与关系能力(5 域 18 项)的分类体系,构建 256 个对抗场景。
- 残余失败主要是「遗漏型错误」(该问的问题没问),事后输出过滤器无法拦截,需在自由文本生成之外引入过程级安全护栏。
- 模拟自动评估器与精神科医生中度一致(ρ = 0.57-0.58),能可靠判断模型间改进方向,但不能准确反映幅度。
作者强调这是严格辅助性、需临床医生监督的预诊研究原型,不能替代精神科医生,进入真实患者前瞻性临床验证前仍需解决残余诊断、管理与安全局限。
所属事件:Google用模拟患者RL训练Gemini做精神科问诊，安全漏判减半(12 条相关)→
「安全」频道最新
- LifeArchitect 10 月刊:中国拟限制 AI 技术出口,Kimi K3.1 Pro 与 Genie 4 在列 — dralandthompson · 2026-10-31
- Anthropic 官宣：11月3日起 Claude 输出将带不可见文本水印 — petesena · 2026-10-31
- LessWrong 长文：AI 实验室员工的认知状态如同「微剂量致幻」 — jankulveit · 2026-10-31
- 斯坦福教授公开实验室 AI 政策：论文正文一律不许 AI 代写 — ChrisGPotts · 2026-10-31
- 安全研究员：想跑物理隔离的 AI Agent，唯一出路是开源权重模型 — wunderwuzzi23 · 2026-10-31
- Cognitive Revolution 播客:Mistral Large 4 是西方最强开源模型吗 — The Cognitive Revolution · 2026-10-31