LLM 医疗分诊失误的根源：效用函数错位，而非缺乏医学知识

erichorvitz · x · 2026-08-04

最新研究发现，大语言模型（LLM）在医疗分诊中给出糟糕建议，根本原因不在于缺乏医学知识，而是其隐式对齐的效用函数出了问题——模型其实非常清楚病情的严重程度。

研究引入了决策分析引导（decision-analytic steering）方法。在急诊分诊等高风险决策中，不同类型的错误代价差异巨大（例如漏诊重症患者的代价远高于让轻症患者白跑一趟急诊）。因此，系统在不确定性下提供建议时，不能仅预测最可能的结果，还必须权衡“作为”与“不作为”的相对成本与收益。