Qwen3 单个神经元同时追踪「科罗拉多」和 Tornado HTTP 代码

livgorton · x · 2026-10-17

可解释性研究者发现一个有趣案例：Qwen3 中一个被认为追踪「科罗拉多相关内容」的神经元，用 Claude 追查后发现它还强烈激活于 Tornado 的 Python HTTP 客户端代码——两种「Colorado/Tornado」语义在一个多义神经元上纠缠，作者调侃好奇二者到底如何关联。

转发者则保持了审慎态度，类比自己在基因组学训练中的教训：面对一长串「激活基因/神经元」列表时，人极易说服自己看到了可解释的模式，希望可解释性研究不会掉入同样的陷阱。