新论文用因果鲁棒性量化 LLM「机制不确定性」,错误回答更怕干预
Aneesh Komanduri · hf · 2026-10-21
科罗拉多大学、威斯康星麦迪逊、哈佛医学院等机构论文提出「机制不确定性」(mechanistic uncertainty)概念:不再只问模型对预测有多不确定(预测不确定性),而是考察支撑回答的内部计算机制是否稳定。方法:
- 定义 causal robustness margin:使模型输出发生偏移所需的最小内部干预强度
- 借助机制可解释性工具(概念转向向量)操作化度量
发现:错误回答对内部干预更敏感,且学到的知识会随训练获得鲁棒性提升。为可解释的不确定性量化提供了新视角,可用于幻觉风险检测。
「研究」频道最新
- TUM 发布 Tadpole：自编码器当 3D PDE 基础模型，NeurIPS 论文 — jiqizhixin · 2026-10-23
- Arc Institute 发布 COMPASS:用基因组语言模型绘制非编码 DNA 功能图谱 — anshulkundaje · 2026-10-23
- FDA 批准个性化新抗原癌症疫苗：每位患者产品皆不同 — alex_peys · 2026-10-23
- VIPerturb-seq 更新:10x Genomics 将推商业化单细胞 CRISPR 筛选产品 — anshulkundaje · 2026-10-23
- 新论文用二次模型复现 Transformer 训练 loss 尖峰，直指成因本质 — CSProfKGD · 2026-10-23
- 扩散模型教科书团队将把教程升级为 NeurIPS 2026 扩散 LLM 专场 — mittu1204 · 2026-10-23