同样的 2.4 eV 预测，SHAP 揭示模型两条完全不同的推理路径
bravo_abad · x · 2026-11-01
材料科学中的 ML 可解释性科普：模型可能因为完全不同的原因给两种晶体预测出相同的 2.4 eV 带隙。
SHAP（SHapley Additive exPlanations）从参考预测（通常是背景数据集上的模型平均输出）出发，把每个描述符的贡献量化为 eV 值，各项贡献恰好加总等于最终预测。文中示例：参考值 1.6 eV 时，材料 A 由电负性（+0.9）和 d 带宽度（+0.5）推高；材料 B 则靠配位数（+0.8）和晶胞体积（+0.6）推高——同样的 2.4 eV，分解完全不同。
作者强调全局特征重要性排名无法揭示这种逐预测的差异，附图用瀑布图直观对比了两种分解路径。
「研究」频道最新
- 学者开放 Filedrawer 平台：AI 自动生成研究报告并审查发表偏倚 — RobbWiller · 2026-11-01
- TifinaghBench 上线：主流模型理解阿马齐格语最高仅 29.9 分 — gekobraa · 2026-11-01
- CoBit 论文：一套连续比特流扩散架构统一语言、图像、语音与蛋白生成 — LucaAmb · 2026-11-01
- 开源仓库汇总历代 AI 宪法与模型规范文档及泛化研究引用 — dhadfieldmenell · 2026-11-01
- Karpathy nanochat 获 5.9 万星：从零训练 LLM 全流程仓库 — techNmak · 2026-11-01
- 用 Qwen3-0.6B 手把手训练你自己的决策模型 — dl_weekly · 2026-11-01