MLP 神经元与 SAE 同样稀疏，百个神经元电路即可操控模型行为
burny_tech · x · 2026-10-25
作者转发 ICML Spotlight 论文《Language Model Circuits Are Sparse in the Neuron Basis》的核心结论：首次实证证明 MLP 神经元本身就是与 SAE 一样稀疏的特征基底，并基于此开发了端到端梯度归因流水线，在多种任务上找到因果有效的神经元；主谓一致任务中约 10² 个神经元即可控制模型行为，多跳推理任务中还能定位并干预潜在推理步骤。
所属事件:ICML Spotlight 论文：百个 MLP 神经元电路即可操控模型行为(2 条相关)→
「研究」频道最新
- CoDA 工具让专家 2 小时内完成编码本，示例用量减少 5 倍 — BrihiJ · 2026-10-25
- Reddit 长文:KLD 不是量化模型的万能排名指标 — Positive-Resource922 · 2026-10-25
- 可解释性研究三境界梗图：Linear Probes、Vocab Lenses 与「神圣几何」 — voooooogel · 2026-10-25
- 研究者提「永恒问题」分类:排序 O(n log n) 下界永远成立 — mboehme_ · 2026-10-25
- supermimic 未放代码 3 天已有带码衍生作，研究者呼吁直接发代码 — carlosdponx · 2026-10-25
- 斯坦福 HAI 回顾：2022 年成立校级因果科学中心 SC² — StanfordHAI · 2026-10-25