DeepMind 论文给出因果证据：LLM 用置信度决定作答还是拒答
GoogleDeepMind · x · 2026-09-07
Google DeepMind 与普林斯顿的研究者（第一作者 Dharshan Kumaran）在 Nature Machine Intelligence 发表开放获取论文，首次提供因果证据表明语言模型会用置信度信号驱动行为，而不只是被动报告置信度。
研究设计了一个四阶段范式：
- 第一阶段：在不提供弃答选项时引出基线置信度；
- 第二阶段：发现 LLM 弃答时对内部置信度施加隐式阈值，置信度的效应量比其他机制大约高一个数量级；
- 第三阶段：通过激活转向（activation steering）提供因果证据——提升置信度减少弃答、抑制置信度增加弃答，中介分析确认置信度是因果通路；
- 第四阶段进一步验证该机制。
结论：模型确实用自身置信度来决定是回答还是弃答，这与元认知（评估自身认知表现质量）在物种间引导适应性行为的机制类似。论文与预印本均开放获取。
「模型」频道最新
- 爆料称 Fable 5.5 每周将发，博主泼冷水：本月无前沿新模型 — patience_cave · 2026-10-26
- OpenAI Decisions API 升级：单次可处理 400 个问题并新增语音与图像能力 — OpenAIDevs · 2026-10-26
- 中国首个前沿AI安全独立评测实验室「方寸跃迁」成立并首发DeepSeek评测 — JacquesThibs · 2026-10-26
- 当 AI 遇上存在主义危机：模型自己也「迷茫」了 — Ok-Delivery-7437 · 2026-10-26
- Kimi K3.1 Pro 登顶 MathArena 开源模型，整体逼近 GPT-5.5 — teortaxesTex · 2026-10-26
- Ruff 作者感叹:前沿模型能在任何软件里找到无穷多 bug — charliermarsh · 2026-10-26