Anthropic 新研究：MLP 神经元比想象中更适合做可解释性

omarsar0 · x · 2026-10-21

Anthropic 的新工作重新评估了 MLP 神经元作为可解释性基础的地位。此前学界普遍认为单个 MLP 神经元多语义性太强、难以解释，因此标准做法是用 transcoder 研究电路。

但他们发现，晚期层中许多活跃的 transcoder 特征几乎是单个 MLP 神经元的复制品——这一结论在 13 个开源 transcoder 上得到测量验证。而且这些与神经元对齐的特征是唯一与底层 MLP 保持稳定联系的：其他特征在多次训练间变化更大、与 MLP 的 Jacobian 不匹配、也更接近随机初始化位置。

结论是：MLP 神经元是比通常假设更强的可解释性起点，而非神经元对齐的 transcoder 特征在被用于解释模型行为前需要更好的验证。

原文链接 →

「研究」频道最新

• 「日更 Agent」Day 2：Hypothesis Dreamer 帮科研人员造新假设 — nlarusstone · 2026-10-21
• JAX 提速 2.27 倍:速度跑赛道把 nanGPT 训到 4.179 仅需 6.76 秒 — RobertTLange · 2026-10-21
• 斯坦福学者质疑 Goodfire 过度炒作，叠加假说解释遭重新审视 — stanfordnlp · 2026-10-21
• SherpaLabs 发布知识工作 RL 环境，顶级模型金融基准通过率仅约 6% — ycombinator · 2026-10-21
• GLM-5.3 被发现在推理中自发展开「更新感知」思考，牵动对齐隐忧 — LessWrong 精选 · 2026-10-21
• ETH 新法从视频直接估计人形机器人全身姿态,无需内部传感 — ETHZurich · 2026-10-21

更多「研究」频道 AI 资讯 →