Goodfire称神经网络本已干净，多义性争论引可解释性研究者反驳

Goodfire 研究员 Nick Cammarata 发布长达 65 分钟阅读量的非正式研究假设《Neural Networks Are Already Clean》，主张多义性（polysemanticity）源于可修复的问题，神经网络本身其实是「干净」的，有读者据此认为神经元就是机制可解释性的全部。随后可解释性研究者 burnytech 发文反驳，指出多义性并未消失，双方观点在社区引发关于机制可解释性路径的讨论。

2026-11-10 ~ 2026-11-10 · 2 条相关