前 Anthropic 研究员发难：可解释性的「特征」框架可能整个错了

MoonL88537 · x · 2026-10-16

nickcammarata（前 Anthropic 可解释性研究员）发长文质疑可解释性领域以「features」为基本单位的做法：没人能真正定义、计数或测量特征，而且这个框架太灵活，能适应电路的任何实际行为，导致研究低效。他举例：4e:55 神经元到底是多个特征（车、猫）在一个特征里，还是多模态神经元？如果共享模式就算单语义，那「猫特征」还存在吗？转发者认为这暗示「非人类的特征作为神经网络基本单位」的范式可能是错的。