OpenAI 可解释性早期作者：万亿参数模型绝大多数神经元已可读懂

NinaDSchick · x · 2026-10-16

曾参与 OpenAI 早期机制可解释性研究、并主导其首个大规模自动化可解释性项目的 Nick Cammarata 发长文称：当年他因神经网络像「纠缠的乱结」而对可解释性感到悲观，早期工具只能读清约 2% 的神经元；但借助现代 agentic 工具重新审视，从较小模型到万亿参数模型，绝大多数神经元及其电路都已可读。他认为可解释性是当前世界上最重要的科学问题——不知道模型在学什么、如何决策，就无法解决对齐。转发者评论称这可能是对齐领域的重大突破，尤其 AI agent 正在帮助自动化可解释性研究本身。