研究者实测单个神经元后质疑经典叠加假说：弱激活高度结构化
livgorton · x · 2026-10-17
可解释性方向的研究者 livgorton 参与 @tszzl 关于叠加（superposition）的争论，提出三点基于自己一手调查的反驳：
- 经典定义下的叠加并非任意的，而是高度依赖数据分布的结构化现象。
- 她不认同原论证中对该神经元连接程度的描述——实测发现其弱激活几乎都关联到同一概念（Colorado），只有第二个概念上的微弱次峰，更像“略微杂乱的神经元”而非有用叠加，她打赌随规模增大会消失。
- 即便接受递归泛化（recursive generalisation）的论证，也不能否定叠加的存在：前者是关于训练动态的主张，不能替代关于模型最终几何结构（非均匀叠加）的主张。
这场讨论触及可解释性研究的核心概念之争：被广泛引用的叠加假说是否被一个具体神经元案例真正撼动。
所属事件:研究者实测单神经元激活，质疑神经网络叠加假说(2 条相关)→
「研究」频道最新
- NIST JARVIS 团队十年积累：AI 材料科学讲座超 220 场全部上线 YouTube — CatAstro_Piyush · 2026-10-17
- 85 万条帖子对比研究:Bluesky 科学讨论更学术复杂,X 更通俗易读 — CurieuxExplorer · 2026-10-17
- visloc-rs:纯 Rust 实现 SfM 与 3DGS 定位，比 COLMAP 快 3.46 倍 — rsasaki0109 · 2026-10-17
- 超90%神经元可解释：神经网络与人类共享同一套「现实语言」 — CatAstro_Piyush · 2026-10-17
- 从睡美人问题到中心化世界模型:一场关于概率解释的硬核长文 — jessi_cata · 2026-10-17
- CMU 论文提出隐式课程假说：LLM 能力按可预测顺序涌现 — CatAstro_Piyush · 2026-10-17