Yudkowsky 炮轰 mech interp：发现神经元离对齐还差得远

inductionheads · x · 2026-10-16

Eliezer Yudkowsky 发长文嘲讽机制可解释性（mech interp）研究的现状：他表示如果能在 AI 思维偏离人类时提前预测，那是做真正对齐工作的起点；但研究者的进展——发现多神经元叠加表征（polysemanticity/superposition）、或在更大模型里找到单概念神经元——都被他认为是「意料之中的事」，远未达到「开始做重要部分」的程度。转发者则批评他「只想要愤怒不想要解决方案」，无论 mech interp 有什么进展他都会坚持「我们都要死了」的世界观。