神经网络是否本就干净：多义性假说引发交锋

Goodfire 的 Nick Cammarata 发布长文《Neural Networks Are Already Clean》，提出新假说：早期「模型有机体」中观察到的多义性并非网络本质，而多源于误读，超过九成神经元的强激活带具有可解释含义。此前广为流传的「搭车客指南神经元」案例（1% token 即可微弱激活但内容与《银河系漫游指南》无关）也被重新解读。该观点遭到 leogao 发文反驳，双方围绕可解释性展开争论。

2026-10-19 ~ 2026-10-20 · 3 条相关

• 可解释性之争:Cammarata称神经元大多可解释,leogao发文反驳 — burny_tech · 2026-10-19
• Goodfire 新假说：神经网络本就干净，多义性多是误读 — builderjaydub · 2026-10-20
• 研究者修正神经元激活解读：超九成神经元激活带可解释含义 — builderjaydub · 2026-10-20