Goodfire 发现 LLM 神经元社区机制
AI 可解释性公司 Goodfire 发布「Neuron Communities」研究,提出一种无监督方法,用于发现 LLM 内部反复协作实现常见行为的神经元小组。研究发现这些神经元社区规模小得出奇但功能强大,不足十个神经元协同工作即可支撑算术等行为,在 Llama-3.1-8B 等模型上得到验证,为理解大模型内部机制提供了新视角。
2026-11-18 ~ 2026-11-18 · 3 条相关
- Goodfire 发布 Neuron Communities 研究:少数神经元协作即可完成算术等行为 — fatihdin4en · 2026-11-18
- Goodfire 发现 LLM 神经元社区:不足十个神经元即可支撑算术等行为 — niloofar_mire · 2026-11-18
- Goodfire 发现 LLM 神经元社区:少数神经元协作完成算术等行为 — burny_tech · 2026-11-18