Nick Cammarata 称多数神经元已可读，Liv Gorton 撰文驳其误读叠加假说

sethlazar · x · 2026-10-16

前 OpenAI 机制可解释性早期研究者 Nick Cammarata 发长文称，可解释性可能是当下最重要的科学问题——不解构模型就无法解决对齐。他曾在 OpenAI 参与早期机制可解释性工作并因此悲观（当时的原始工具只能读出约 2% 的神经元），但用现代 agentic 工具重新审视后，发现直至万亿参数规模模型的绝大多数神经元都清晰可读。

Liv Gorton 回应称尊重 Nick，也乐见神经网络比想象中更易理解，但认为其论证误读了 superposition（叠加）假说的预测，并逐条指出问题。Seth Lazar 转发了这一回应。这是一场关于可解释性现状与对齐前景的实质争论。