Stanford Potts 撰文回应可解释性研究怀疑论,列六类质疑逐条评估

aryaman2020 · x · 2026-09-07

Stanford 教授 Christopher Potts 为 Goodfire 与 Anthropic 联合举办的「Interpretability: the next 5 years」研讨会撰写讨论文档并公开。他指出可解释性研究正处于尴尬期:技术进展与成功案例快速增多,但学界反应从怀疑到贬低不一。他以神经网络、自然语言生成、强化学习等领域从边缘到主流的历史为例,反对全盘否定,主张逐条评估质疑。其文档系统梳理了对可解释性研究的怀疑观点并逐一回应。aryaman2020 表示认同文中(Chris 的)全部观点。背景是关于 Anthropic 安全分类器是否算 mechinterp 的争论。