Goodfire 发现 LLM 神经元社区机制

AI 可解释性公司 Goodfire 发布「Neuron Communities」研究,提出一种无监督方法,用于发现 LLM 内部反复协作实现常见行为的神经元小组。研究发现这些神经元社区规模小得出奇但功能强大,不足十个神经元协同工作即可支撑算术等行为,在 Llama-3.1-8B 等模型上得到验证,为理解大模型内部机制提供了新视角。

2026-11-18 ~ 2026-11-18 · 3 条相关