Annals 评论警告：高负荷下医生审 AI 建议，「人在环中」形同虚设
EricTopol · x · 2026-10-30
《Annals of Internal Medicine》「Ideas and Opinions」栏目刊发评论《The Illusion of Oversight in Clinical Artificial Intelligence: Human Out of the Loop?》，作者包括 @pranavrajpurkar 等，Eric Topol 转发。
文章指出，随着 AI 深入临床，大量系统依赖「人在环中」模式——由医生审核并批准 AI 建议。但在高工作负荷、审核时间有限的真实条件下，这种把关可能远不如预期有效。配图表格系统列举了典型场景与对应风险：床旁诊断支持中的自动化偏倚、处方告警疲劳使防线在开方高峰时失效、环境式文档中流畅错误难以察觉且一旦签认即被视为已验证、脓毒症预警的告警量远超真阳性导致默认忽略、内镜辅助检测长期依赖侵蚀未辅助技能、 autonomous 续方抽检无法发现罕见或对抗性失败等。
作者呼吁在医疗 AI 角色持续扩大的同时，建立更强的监督、测试与持续监控机制。
「安全」频道最新
- 美众院民主党人推决议:反对动用纳税人资金救助 AI 公司 — michalmalewicz · 2026-10-30
- 安全研究员自嘲翻车：声称公共 WiFi 安全，随即遭证书厂商打脸 — matthew_d_green · 2026-10-30
- 传印度金融 KYC 数据大规模泄露，CERT-In 演习表态遭讽刺 — kingslyj · 2026-10-30
- 架空 1865：蒸汽 AI 代理降临，英国议会立《红领带法案》限速 — azmackay · 2026-10-30
- 加拿大政府宣布入股 Cohere，推进主权 AI 战略 — cohere · 2026-10-30
- 关键州民调：七成选民支持 AI 安全监管，即使损害美国竞争力 — Miles_Brundage · 2026-10-30