研究者断言:机制可解释性永远无法真正解决

burny_tech · x · 2026-10-25

AestherML 撰文认为,机制可解释性(mechanistic interpretability)永远不会被真正解决:人类注意力一次只能容纳约三个概念,而像 Mythos 这样的大模型内部由数万亿概念构成,规模差距使其无法被合理分析。部分概念甚至映射到人类无法理解的物理抽象,且改动任一概念都会以不可追踪的方式波及整个网络;再加上持续学习迟早成为技术必然,可解释性将变成「不可能的任务」。作者主张对齐资源应优先放在把奖励(rewards)做对,而非在训练后用消融和 SAE 去管理模型。burnytech 转发了这一观点。