LessWrong 新文反驳 SAE 质疑论文：实验设置对 SAE 过于苛刻而非宽松

burny_tech · x · 2026-11-01

Celene Nightingale 在 LessWrong 发文《Sanity Checks for Sanity Checks for Sparse Autoencoders》，对 Korznikov 等人的 SAE 质疑论文提出方法论反驳。该质疑论文此前声称：在已知真实特征的合成玩具设置中，SAE 仅能恢复 9% 的真实特征，即「在最简单、超参数完全对齐的玩具设置下也失败」。作者逐一论证：该实验设置并非原文暗示的「对 SAE 宽松」，反而在多处刻意制造了真实场景中不存在的对 SAE 不利条件（actively hostile），因此 9% 的恢复率不能作为 SAE 无法恢复真实特征的证据。这是近期 SAE 可解释性领域信任危机中的最新一轮交锋，值得 mechinterp 研究者关注原始论文与这篇反驳的论证细节。