DART 方法：用歧义导向向量让 LLM 不再过度自信
dhadfieldmenell · x · 2026-11-11
LLM 即使在不知道答案时也高度过度自信。来自 Amu Müller 与 Themistoklis Nikolas 等人的新工作提出 DART：通过可解释性方法提取"歧义向量"（ambiguity steering vectors），在输入含糊时引导模型降低置信度，并将其编码进模型权重。
- 核心思路：模型在输入有歧义时应表现得更不自信，DART 用这些导向向量指导微调。
- 结果：在 7 个模型上改善置信度校准，同时保持准确率不变。
所属事件:DART 方法用歧义导向向量微调缓解 LLM 过度自信(2 条相关)→
「研究」频道最新
- DeepMind 首发多模态知识智能体基准：头部七模型挤在 95-97% — ArtificialAnlys · 2026-11-11
- MKA 基准细节：头部七模型 Regression 门槛 95-97%，Climb 拉开 28%-57% 差距 — ArtificialAnlys · 2026-11-11
- MKA 基准按输出类型拆解:Word 与文本文件无一模型过 52% — ArtificialAnlys · 2026-11-11
- DeepMind 联合 Artificial Analysis 发布 MKA 基准，Claude Fable 5.2 以 57% 登顶 — ArtificialAnlys · 2026-11-11
- 新研究: emergent misalignment 可 OOD 预测,仅微调后层可减少迁移 — AdtRaghunathan · 2026-11-11
- 新论文用定理长度除以证明长度量化数学结果有多有趣 — MarioKrenn6240 · 2026-11-11