学界争论机制可解释性方向：是重大错失还是被误读的努力

juliusadml · x · 2026-11-01

Andrew G. Wilson 发长文抨击机制可解释性是「巨大错失的机会」：许多人本想加入研究泛化的机制性理解，结果却是被「 bait and switch 」引入一个极其小众、晦涩、且大多构思不当的领域——理解单个神经元的作用。他称这在对齐与可解释性领域反复出现：吸引人的理念承诺与实际投入的工作不符。回复者 @juliusadml 反驳称这是「草率概括」：有一个庞大而不显眼的社区在研究算法与表征等问题，即使被批评的方法本身也是对更大问题的尝试，只是尚未成功。