再添一击:研究显示 Grad-CAM 定位胸片病灶命中率仅 0.575,放射科医生为 0.888

zakkohane · x · 2026-11-05

X 光胸片「可解释 AI」的显著性图(saliency maps)方法再遭重创。一项新研究对比 DenseNet-121 与 ViT-B16 模型的 Grad-CAM、LIME、SHAP 归因结果与放射科医生的标注,发现:Grad-CAM 定位病灶的命中率最高仅 0.575,而放射科医生达 0.888。研究在 NIH 内部测试集(21,834 张胸片、5,161 名患者)及斯坦福 CheXpert、越南 VinDr-CXR 两个外部数据集上验证,考察了定位能力、解释偏移和故障检测等维度。zakkohane 评价这是 saliency maps 作为图像可解释 AI 路线的「又一颗棺材钉」。