微软研究院提出决策分析引导法，让 LLM 安全应对医疗高风险决策

brwilder · x · 2026-08-05

微软研究院（MSR）的一篇新论文探讨了如何让大语言模型（LLM）在具有不对称成本的高风险场景下做出安全的决策。

研究人员引入了决策分析引导（decision-analytic steering）方法。该方法强调，在现实决策中不同类型的错误带来的后果往往是不对称的（例如急诊分诊中，漏诊重症病人的代价远高于让轻症病人去急诊科）。通过将 LLM 的效用函数与临床等特定领域的价值观显式对齐，可以有效地处理这种不确定性并优化决策，该思路也可推广至其他高风险领域。