前 OpenAI 可解释性负责人：万亿参数模型神经元大多可读，对齐有救

adityaag · x · 2026-10-16

前 OpenAI 机制可解释性早期共创者、后主导 OpenAI 首个大规模自动可解释性项目的 Nick Cammarata 发布长文，称可解释性可能是当下世界最重要的科学问题——不了解在构建什么就无法解决对齐。

他坦承早年离开时偏悲观：当时的原始工具下，神经网络像纠缠的乱结，首个大规模自动可解释性项目只能读懂约 2% 的神经元。但借助现代 agentic 工具并更深入观察后，图景完全不同：上至万亿参数规模的模型，绝大多数神经元和电路都是可读的。转发者zoink称这可能是 2026 年最重要的文章，并表态选择乐观：与其假设问题无解，不如动手构建工具正面应对。