研究者用 Claude 追查 Qwen3 神经元：科罗拉多语义竟连着 Tornado 代码

RatOrthodox · x · 2026-10-16

作者评论可解释性研究的最新进展（引用帖中给出详细观点）：一些经典「怪神经元」案例其实有稳健的人类可读解释——著名的「猫+车神经元」实为 V 形检测器，「车+狗叠加电路」是广义姿态神经元加特征可视化问题，且错误产生有具体机制。作者认为这是真正的科学进步，但对「雄心勃勃的可解释性研究有多难」这一判断帮助有限。

作者随后用 Claude 追查一个追踪科罗拉多州相关内容的 Qwen3 神经元，发现它同时强烈响应 Tornado 的 Python HTTP 客户端代码——一个表面多义但难以解释的案例，作者好奇两者之间的关联究竟是什么。