mech interp 交互式科普《Inside the Black Box》:11 章 8.5 小时入门

cneuralnetwork · x · 2026-11-09

@neuralavb 推出的机制可解释性交互式调查报告《Inside the Black Box》(2026 版)在网上流传:11 章 + 参考手册,约 8.5 小时阅读量,每章配交互图表,用简明英语写成。内容脉络分四个时代:2013–2019 视觉模型内部探索(显著性图、特征可视化、DeepDream);2020–2021 Circuits 纲领(曲线检测器、superposition 命名);2022–2023 语言模型电路(induction heads、activation patching、首批稀疏自编码器);2024–2026 规模化应用(稀疏自编码器拆出百万可读特征,归因图追踪 Claude 如何押韵、算术和拒答),并讨论白盒审计进入系统卡与生产环境等实用化进展。