神经机制可解释性长文爆火，作者补引用并回应学界争论
inductionheads · x · 2026-10-17
研究者 nickcammarata 表示，过去几天其关于神经元机制的非正式研究长文意外走红，引发了久违的高质量可解释性讨论：应主要从 features 还是 mechanisms 视角理解模型、弱激活有多大影响、规模如何改变结论等。作者回应称原文仅为"非正式研究随笔与工作假说"，引用只覆盖基础脉络，其余前置工作在他们仍在收尾的技术论文里；因文章爆火，已在文中补充了引用，并感谢共同做语言神经元研究的 @curttigges。
所属事件:前 OpenAI 研究员称神经网络本就干净，可解释性引热议(60 条相关)→
「研究」频道最新
- Perplexity decider v1.2 27B 排 Decision Index 第 3，新域分数反低于上代 — antoine_chaffin · 2026-10-17
- Perplexity 坦承 decider v1.2 存在回归，用 model souping 缓解并溯源两成因 — antoine_chaffin · 2026-10-17
- 多问题打包单次前向传播：省算力但稳定性存隐患 — antoine_chaffin · 2026-10-17
- pplx-decider 新思路:同一状态的多问题共享序列一次前向 — antoine_chaffin · 2026-10-17
- 双向注意力毁缓存?作者实测四种注意力方案找到两全配方 — antoine_chaffin · 2026-10-17
- Perplexity 发布 pplx-decider v1.1:双向注意力带来 +2.8 提升 — antoine_chaffin · 2026-10-17