临床 AI 笔记隐患：20% 严重错误被顶级检查器漏过，验证之难何解

AI Engineer · youtube · 2026-08-23

Sebastian Fox 研究发现，美国约三分之一的诊所已使用 AI 环境抄写员（Ambient Scribes），但风险巨大：约 5% 的笔记含有足以造成严重伤害的错误，近 20% 有重要遗漏，10% 以上包含幻觉。Fox 测试了基于前沿模型和忠实度评分规则的“检查器”，结果仍有 20% 的严重错误被放行。

核心难点：验证只能轻松发现转录与笔记间的表面差异，但判断“差异是否重要”是隐性的、语境化的且不断变化的。例如，同样遗漏假期细节，漏掉法国可能是噪音，漏掉马拉维湖则可能是关键诊断线索。