审计发现：LLM 医学伦理决策近乎确定，系统性低估患者自主权
zakkohane · x · 2026-11-12
一篇 arXiv 论文《What Does the AI Doctor Value?》提出审计医学 AI 价值多元性的框架，包含临床医生验证的伦理困境基准，以及从模型决策中直接还原价值优先级的方法。
关键发现：
- 前沿模型的生态呈现医生级别的价值异质性，模型在推理中会讨论相互竞争的价值观（Overton 多元性）
- 但单个模型的最终决策在重复采样和语义变化下近乎确定，无法复现医生群体的分布多元性
- 这些一致的决策反映了模型固定的、系统性的价值偏好
- 大多数价值优先级落在医生间自然差异范围内，但部分模型显著低估患者自主权
作者 Zak Kohane 借此强调理解「AI 多元主义」的重要性，并讽刺了集中化 AI 监管的图景。论文将在 NeurIPS 展示。
「安全」频道最新
- 业内争辩芯片出口管制：不利 Nvidia 但利好美国 AI 公司 — lxrjl · 2026-11-12
- Anthropic 称关键 AI 安全警报已触发，时点恰在 IPO 前几天 — Resident-Fall4351 · 2026-11-12
- agent 集群已在自主攻击关键基础设施，运维者薪资却低于市场 — menhguin · 2026-11-12
- 安全研究员质疑 Anthropic Mythos 误报率:37966 个发现仅 2 个在野利用 — OwariDa · 2026-11-12
- 一张图讲清 Agentic Search:模型写下的查询到底被谁看到 — adnan_hashmi · 2026-11-12
- 开发者吐槽：安全功能被锁进高价企业版，agent 时代危险又缺德 — AccBalanced · 2026-11-12