arXiv 论文提出「记忆偏置」:医疗 AI 记住老病人历史数据,漏诊新病风险大增
chaumian · x · 2026-09-16
- Ben Glocker 等人( Imperial College 等)提出 memorisation bias(记忆偏置):医疗 AI 在训练中见过某患者脱敏的历史数据后,对该患者未来未见数据的预测会显著改变。
- 该偏置跨多种数据模态与模型架构存在,甚至可延续到历史记录之后数十年采集的新记录。
- 模拟前瞻部署显示不对称影响:患者带着训练集中没有的新病症复诊时,诊断敏感度显著下降(漏诊风险);病情未变时,敏感度和特异度则双双虚高。
- 结论:模型部署在数据曾入训的患者身上存在此前未被刻画的风险,对临床部署有直接影响。
「研究」频道最新
- 数学家讽 AI 基准文化：我们从不为解题而解题 — RexDouglass · 2026-09-16
- 日本「全民翻刻 OCR」换装 v19 模型，汉文训读精度提升 — tkasasagi · 2026-09-16
- Reddit 长文:LLM 本质是加权模糊,没有 AGI,2030 年或有个人 AI 做科研 — Helpful-Series132 · 2026-09-16
- Jev 编程被解读为决策版 MapReduce：并行提问互不感知 — cocktailpeanut · 2026-09-16
- CMU 提出后训练防御 DDO，可拦截拒绝方向消融攻击且成本降 30-450 倍 — CarnegieMellonU · 2026-09-16
- 研究者类比：Loops 相当于编码器语言模型的思维链 — _AndrewZhao · 2026-09-16