西北大学新论文：把 LLM 决策失误拆解为信念错误与优化失败
JessicaHullman · x · 2026-10-23
西北大学 Huaman Sun、Dingcheng Wang、Jason Hartline 与 Jessica Hullman 的新论文提出决策论框架，将 LLM 作为决策助手时的损失分解为两部分：信念损失（基于证据形成的信念不准）与优化残差（信念正确但未按效用函数最优行动）。
- 在有 ground truth 的合成基准上刻画了前沿与开源模型的概率推理能力；比较 GPT-5.5、Claude Sonnet 4.6、Gemini 3.1 Pro、Llama 4 Scout 等模型，复杂问题上 regret 主要来自信念损失，关闭推理模式时则主要是优化残差。
- 用 RL 微调 Qwen3-8B 测试四种奖励设计：仅信念、仅决策、信念+决策混合、信念+一致性对齐。仅训练决策可大幅降低 regret 却几乎不改善信念——模型学会了跳过信念形成的捷径；要求先陈述信念时大部分收益消失。
- 混合训练能同时改善两者，但收益脆弱：评测格式需与训练匹配（two-turn），held-out 决策问题上模式依然存在。
结论：针对单一组件的训练只是重新分配决策损失，严谨测量才能让模型成为可信的决策助手。
所属事件:西北大学新论文：LLM 决策失误可拆解为信念损失与优化残差(10 条相关)→
「模型」频道最新
- Mollick出新书:AI可完成任务时长从4分钟暴增至17周 — emollick · 2026-10-23
- 开发者热议:插值为何产生幻觉,AI 建议何时最危险 — gerardsans · 2026-10-23
- OpenAI Dot 语音 UX 悖论：单线程语音锁死了多线程价值 — cocktailpeanut · 2026-10-23
- Sam Altman:模型已能发现人类威胁模型之外的安全漏洞 — ns123abc · 2026-10-23
- Omnii Genome：单一通用模型基因组预测超越专用模型 AlphaGenome — BenSiranosian · 2026-10-23
- MemTensor 发布 MemT-1.0 系列,主打新型参数化记忆机制 — Alarming-Ad8154 · 2026-10-23