组合≠叠加：可解释性文章用「神经元组合」反驳叠加站不住脚
livgorton · x · 2026-10-16
livgorton 线程第 11 条：那篇可解释性文章称「特征数多于维数」这一点「即使是完全单语义的网络也能满足，因为它的神经元会组合」。她反驳：组合给你的是更多「组合方式」，不是更多「特征」，两者不是一回事。
她还指出，文章自己的读出（readout）故事听起来就很像 superposition：汽车读取器确实经由猫/汽车共享神经元获得猫信号，只是因为它组合了许多神经元，干扰才变得可容忍。
所属事件:Anthropic 研究员逐条反驳「神经元被低估」论文的叠加质疑(11 条相关)→
「研究」频道最新
- 移除 Gemini 后相关性从 0.20 升至 0.96：通用能力与机器人能力高度挂钩 — ycombinator · 2026-10-16
- EPFL 用 RFdiffusion 设计变形蛋白,单序列可折叠两种构象 — ferruz_noelia · 2026-10-16
- 通过操纵「地位感」观察模型行为,作者续谈夺权反事实推断 — jd_pressman · 2026-10-16
- 新基准测「对齐伪装」模型：五种检测法中一种识别率高达 98% — jd_pressman · 2026-10-16
- MLP 神经元可解释性六年研究脉络:一帖梳理关键论文 — aryaman2020 · 2026-10-16
- 新组首篇预印本:预测性网格细胞编码无需显式规划 — tweetsatpreet · 2026-10-16