机制可解释性研究者反思「叠加」滥用

ML 研究者围绕机制可解释性方法论展开讨论：有人调侃「真想见见那个神经元」，并坦言自己曾因叠加（superposition）的解释太说得通而全盘接受。hrishioa 引用并赞同一篇反思文章，作者在检验数百个案例后发现，每当强激活解释不通，研究者就把「叠加」挪到弱激活或未见过的神经元上，暗示它不应再作为可解释性的默认假设。

2026-10-16 ~ 2026-10-16 · 2 条相关