可解释性圈激辩:残差流叠加真实存在但可能不重要

围绕Neel Nanda关于叠加(superposition)的观点,可解释性研究者展开激辩。nablatheta提出猜想,认为模型可以在最大化残差流叠加与最大化神经元叠加之间权衡;banburismus则进一步解读称,残差流叠加很容易真实存在,但神经元本身可能基本是单一功能,因此这种叠加对理解网络并不重要。

2026-10-19 ~ 2026-10-19 · 2 条相关