圈内热传:几乎全部机械可解释性研究都源自一位博主的帖子

max_paperclips · x · 2026-11-03

转发讨论称,包括「编辑模型权重」在内的机械可解释性(mechinterp)研究,几乎都可追溯到 voooooogel(VGEL)的某篇帖子——配图即其 2023 年博文《I made a transformer by hand (no training!)》,她手写(非训练)每个权重搭建了一个 GPT-2 式 decoder-only transformer 来预测简单序列。原帖戏称:如果她是末日论者,其影响力分数会超过 Neel Nanda 和 Callum Hubinger 之和。