《柳叶刀》子刊 201 项研究:医疗 LLM 偏倚评估严重偏科
MaziyarPanahi · x · 2026-11-21
Lancet Digital Health 一篇被忽视的系统综述分析了 201 项关于医疗大模型偏倚的研究,发现样本高度失衡:180 项只测闭源模型,69 项测了开源权重模型(其中 24 个医疗专用),仅 44 项用了真实世界数据,只有 7 项研究临床文书写作场景。
语言覆盖同样严重偏科:英语被测了 32 次、中文 15 次、西班牙语 14 次,而索马里语、孟加拉语、越南语、乌克兰语各只有 1 次。作者呼吁在真实临床工作流中开展大规模研究,并对闭源与开源模型都做偏倚审计。发帖人观点:开源权重不只是更便宜,更是审计模型偏倚的唯一途径。
所属事件:Lancet 综述:医疗 LLM 偏差研究九成只测闭源模型(3 条相关)→
「安全」频道最新
- Christiano:数学两月走完十年,ML 或迎智能爆炸 — OwainEvans_UK · 2026-11-21
- AI 安全学者克鲁格:担心中国违约为何不先问自己会不会 — DavidSKrueger · 2026-11-21
- Hinton 亮相旧金山风险情景研讨,或松口支持暂停前沿 AI — DavidSKrueger · 2026-11-21
- OnlyModels「模型格斗赛」:Qwen小模型胜出,APEX仅5/72守住 — Dave_Maynor · 2026-11-21
- 205 人聚集 Anthropic 门口抗议递归自我改进 — DavidSKrueger · 2026-11-21
- 新研究:人类审计员几乎无法识别 AI 安全研究中的暗中破坏 — ronbodkin · 2026-11-21