Superposition 本质是几何主张：用近正交方向在低维层塞下更多特征
livgorton · x · 2026-10-16
livgorton 线程第 3-4 条：superposition 首先是一个关于几何的命题——一层网络通过「几乎正交」的方向表示超过其维数数量的特征，特征之间会产生干扰，但由于特征稀疏，这种干扰是可以容忍的。
她强调这一定义从 2020 年的《Zoom In》起就保持一致，核心依据是特征很少共同出现，而非特征之间必须语义无关。
所属事件:Anthropic 研究员逐条反驳「神经元被低估」论文(14 条相关)→
「研究」频道最新
- 可解释性研究者泼冷水：模拟不了神经元就不算真正解释了它 — nabla_theta · 2026-10-16
- MLP-Splatting 论文开源:用光场原语替代高斯泼溅 — AjdDavison · 2026-10-16
- 四页短文解 subcubic 全对最短路径，借力 Anthropic AI 参与的突破 — gautamcgoel · 2026-10-16
- 浙大等团队发布 ATAS 框架：用世界状态记忆实现一致性长视频生成 — CSProfKGD · 2026-10-16
- 4B 模型加 8K 上下文堆算力反而更差，Hermes 提出上下文推理新思路 — mangahomanga · 2026-10-16
- 微软研究院发布 Magnetar：最快 zkVM，比现有方案快 10-39 倍 — jedisct1 · 2026-10-16