Goodfire 发布 LLM 神经元技术报告：按计算功能而非多义性理解神经元

aryaman2020 · x · 2026-11-11

GoodfireAI 发布了针对 @nickcammarata《Neural Networks are Already Clean》一文的首份技术配套报告，基于其自动化可解释性流程研究了数千个神经元。

核心主张：神经元比以往认为的更「可读」，团队认为应按神经元的计算功能来理解它，而不是纠结于单义性/多义性之争。配图展示了其可视化格式：每个点代表一次激活（firing），纵轴为激活强度，宽度表示该强度下的影响范围，「泳道」代表不同模式，颜色接近暗示可能是同一功能，灰色为无法归类的激活。