研究显示 AI 模型在医疗中存在偏见
AromaticStrength6840 · reddit · 2026-08-21
帖子讨论了 AI 模型继承人类偏见的问题，并引用了多项近期医疗研究作为证据：
- Zack et al. (2024): GPT-4 在临床病例和建议中按种族和性别进行刻板印象归类。
- Omar et al. (2025): 9 个模型在 170 万+ responses 中，被标记为黑人、无家可归者或 LGBTQIA+ 的病例被更频繁地引导至紧急护理、侵入性手术或心理健康评估（有时高出 6-7 倍）。
- EQUITRIAGE 审计： 在胸痛分诊中存在强烈的女性治疗不足现象（部分模型比例高达 9.10:1）。
作者询问社区在不同模型和场景下观察到的具体偏见案例。
「安全」频道最新
- Anthropic 红队两年来首次“抹除”模型，GLM-5.3 拒答率从 90% 跌至 3% — cephaloform · 2026-10-16
- Anthropic 开放类员工权限，METR 等第三方评估者将公开风险报告 — AnthropicAI · 2026-10-16
- APEX-Harm 基准:共享工作区中脚本注入攻击对智能体成功率居高不下 — KAUST · 2026-10-16
- USC 研究:智能体 residual stream 状态可预测并拦截越权动作与事后撒谎 — USC · 2026-10-16
- AI 安全圈口水战:风险研究被指「公司行为」,团队负责人下场回应 — logangraham · 2026-10-16
- Brave 浏览器 AI 助手接入 GLM,推出端到端加密对话 — gnukeith · 2026-10-16