可解释性研究的实证软肋：缺乏基线对比与显著性检验
burny_tech · x · 2026-07-21
作者指出了当前机制可解释性（mechanistic interpretability）论文中普遍存在的一个严重问题：实验结果的可比性极差。
许多论文在展示成果时存在明显的挑选樱桃（cherry-picking）现象，倾向于只展示成功的案例，而隐藏失败或其他分布情况。此外，这类论文往往缺乏严谨的实证基础，具体表现为：
- 未设置合理的基线（baselines）与零假设（null hypotheses）
- 缺乏必要的消融实验（ablations）
- 未进行统计显著性检验
- 未与其他同类方法进行横向对比
作者呼吁，该领域需要更加全面、严谨的实验披露，以呈现方法真实的有效性与局限性。
「研究」频道最新
- 3D ResNet 论文八年突破 3000 引用，Kinetics 数据集成里程碑 — HirokatuKataoka · 2026-09-11
- 把数据调度变成优化的一部分：样本选择与排序影响 LLM 训练 — Puzzleheaded_Box2842 · 2026-09-11
- Jeff Heaton《神经网络数学导论》开放免费完整下载 — blaizedsouza · 2026-09-11
- 数学家 Daniel Litt 上线问题库,15 题仅 1 题被解,用来追踪 AI 解题进度 — littmath · 2026-09-11
- AI 智能体协作优化 secp256k1 量子电路,挑战打破 ECDSA — StefanoGogioso · 2026-09-11
- Alex Townsend 汇编 200 个数值线性代数开放问题，供人类与 AI 攻关 — IgorCarron · 2026-09-11