特征重要性≠物理因果：置换重要性在科学 ML 中的陷阱与用法
bravo_abad · x · 2026-10-27
bravoabad 长文讲解用置换重要性(permutation importance)理解科学机器学习模型的方法与局限。
方法
- 在留出数据上评估训练好的模型，把某个特征在样本间随机打乱(保持分布不变、切断与目标及其他特征的关联)，多次打乱取平均；误差大幅上升说明模型依赖该特征，几乎不变则说明该特征单独贡献小。
- 逐个特征重复，即可得到「模型在意什么」的排序。
两个关键陷阱
- 冗余特征集体失重：电负性、原子半径等描述子通常是组分加权平均，与组分高度重叠；打乱单个可能几乎不伤预测，因为信息仍在其他特征里，导致都显得「不重要」。
- 相关性反向虚高：打乱两个相关描述子之一会产生真实材料中不存在的组合，模型在这些人工输入上的误差(而非真实依赖)会虚增分数；成组打乱可缓解，代价是只能给整组打分。
核心结论：特征重要性是「模型的属性」，对特定扰动的响应；对物理系统的科学理解则是对现象的因果主张，两者不能混为一谈——用 ML 提取科学洞见时必须区分这一点。
「研究」频道最新
- 发布 10 个月后前沿模型 SpatialBench 逼近 75%，GPT-6.1 Terra 创新高 — kenbwork · 2026-10-28
- 手写 Transformer 自动微分：PyTorch 极简 autograd 实现开源 — ifaposto · 2026-10-28
- Ben Goertzel 用玩具模拟探索超级智能吸引子：自私优化器与仁慈智能体的动力学 — bengoertzel · 2026-10-28
- ReGE 论文：把 agent 执行经验合成指导，无需更强教师即可自我提升 — TIGER-Lab · 2026-10-28
- 统计学家辩战：巴西事件非「不可能」，是分布选错了 — doodlestein · 2026-10-28
- NVIDIA PhysicsNeMo 教程：用 AI 代理模型预测汽车碰撞形变 — NVIDIA Developer · 2026-10-28