移除 10% 关键细胞致输出骤降三倍，可验证的可解释性新方法
bravo_abad · x · 2026-09-28
这篇论文提出了一个具体方法来检验 AI 模型的高亮解释是否真的支撑其预测：模型从肿瘤组织的单细胞特征及其空间邻域关系预测临床结局，解释方法标出对预测最重要的细胞，研究者随后从输入中移除这些细胞（连同其连接），并与移除等量「不重要」细胞的效果对比。
- 在乳腺癌数据集上，移除 10% 被标为重要的细胞，导致模型输出平均下降幅度约为移除等量不重要细胞的近三倍
- 移除重要细胞还会更严重地损害模型按生存期对患者排序的能力
- 这种「干预式验证」为可解释性方法提供了超越直觉可视化的实证检验思路
「研究」频道最新
- 神经科学家驳「AI 非大脑」论:前沿模型表征已可预测灵长类皮层活动 — coherence · 2026-09-28
- ESPnet 发布百万级语音数据集 YODAS3,覆盖识别、翻译与合成 — espnet · 2026-09-28
- BoundInk 把字间边界作为显式生成单元,在线手写生成质量大幅提升 — SUNGKYUNARCH · 2026-09-28
- TUM 提出 Continuous Depth Batching,循环语言模型自适应推理提速 99% — TUM · 2026-09-28
- ARGUS 用 LLM 审计气候政策研究的因果识别假设,缺陷检出率 73% — Yonghong Zhang · 2026-09-28
- 用范畴论给深度学习画图:PyNCD 把 FlashAttention 画在餐巾上 — GioeleZardini · 2026-09-28