专题 · FULL STORY

可解释性遭炮轰：从争论到 Goodfire 风波

叠加假设重估引发斯坦福学者对可解释性领域过度炒作的集中批评，随后 Anshul Kundaje 指责 Goodfire 夸大 EVEE 作用，当事研究员公开回应质疑，争议持续发酵。

2026-10-19 ~ 2026-10-21 · 3 集 · 11 条

第 1 集 · 斯坦福学者重估叠加假设并炮轰可解释性炒作(2026-10-19,6 条)

围绕「叠加假设（superposition）」的批判性重估，斯坦福多位学者近日在社交媒体上展开讨论，并延伸为对 AI 可解释性领域过度宣传风气的集中批评。Chris Potts 公开表态欢迎重估，认为替代解释可能成立；Anshul Kundaje 则连发多帖批评业内夸大成果的风气，并点名 GoodfireAI。

已确认

  • 斯坦福教授 Chris Potts 转发了 Orgad Hadas 对叠加假设被重新评估的评论，并引用 Nick Cammarata 的原帖；Hadas 认为叠加假设影响深远，此次重估很有意义。
  • Potts 另公开了他应记者之邀撰写的评论：他欢迎对叠加假设现有论证的批判性重估，认为替代解释可能成立。该讨论围绕 Cammarata「可解释性是当下最重要的科学问题」一贴展开。
  • 斯坦福教授 Anshul Kundaje 于 10 月 20 日连发多帖，批评 AI 尤其是可解释性方向的过度宣传风气，称惯于夸大的人会被标记为「系列性 overhypers」并失去读者信任；他讽刺这些团队恰恰自称要用可解释性提升 AI 模型的可信度。他还表示，如果真在做有影响力的工作，这类包装完全没必要。
  • Kundaje 点名 GoodfireAI 有「大规模过度炒作」的历史，称其「阿尔茨海默新生物标志物」与「VUS 变异注释」的说法在本领域内被严重夸大，并认为其新的可解释性宣称同样如此。被引用的斯坦福教授（即 Potts）也作出回应。

尚未确认

  • 叠加假设的替代解释是否真正成立、玩具模型上的结论能否迁移到真实网络，仍属开放问题；Hadas 与 Potts 的评论均属观点而非定论。
  • Kundaje 对 GoodfireAI 具体成果（如生物标志物、VUS 注释相关宣称）的批评所对应的工作细节与原文材料未给出。

为什么重要

  • 叠加假设是机制可解释性研究的核心理论基石之一，若其论证被推翻或修正，可能影响大量后续研究的解释框架。
  • 这场争论再次凸显学术界与产业界对「夸大成果」的容忍度正在下降：如 Kundaje 所言，炒作对天真受众或许暂时有效，但业内人看得清，只会持续消耗研究者自身公信力。

第 2 集 · 斯坦福教授质疑 Goodfire 夸大 EVEE 在 VUS 研究中的作用(2026-10-20,2 条)

斯坦福教授 Anshul Kundaje 公开指责 AI 公司 Goodfire 夸大其基因变异分类工具 EVEE 的作用，称 Goodfire 暗示 EVEE 推动了某项 VUS（意义未明变异）研究的升级，但九成依据实际与 EVEE 无关。他进一步批评 AI 公司的公关行为污染科学传播，表示虽认可 EVEE 对变异位优先级排序确有价值，但善意科学家的成果难敌公司的宣传机器扭曲。

第 3 集 · 被指 PR 误导后，Goodfire 相关研究员回应质疑(2026-10-20,3 条)

斯坦福教授 Anshul Kundaje 在 X 上批评 AI 公司的公关机器扭曲科学家本意，矛头指向 Goodfire AI 相关的科普内容。当事第一作者 Ryo 回应称欢迎建设性反馈、会保证内容真诚，解释原推并非 PR 手法或营销话术，而是在技术与非技术受众之间做通俗化取舍，且部分措辞非自己所能控制，并已在推文中详述相关情况。