Goodfire 用梯度归因自动发现并消融神经元社区验证因果

burny_tech · x · 2026-11-18

可解释性公司 Goodfire 介绍其发现模型内部行为相关神经元社区的方法,转推者称赞其完整流程:基于梯度的归因、发现稀疏神经元组、并对这些组做消融验证。

方法流程:

这意味着可以在不预设假设的情况下,大规模自动挖掘模型内部的功能单元并验证其因果作用。

原文链接 →

「研究」频道最新

更多「研究」频道 AI 资讯 →