Goodfire 联创长文：神经网络并非乱线团，可解释性远比想象乐观
burny_tech · x · 2026-10-16
Goodfire 联合创始人 Nick Cammarata 发表新文章，重新审视他早年参与的开创性可解释性研究（他合著了提出 polysemanticity 与 superposition 的论文 Zoom In）。
核心论点：早期领域（包括他自己）把神经网络看成需要解开的乱线团是错的。他花数月重访可解释性的经典 model organisms，并研究到万亿参数规模的现代语言模型，结论是 AI 模型的可解释性远超预期。文章还讨论了可解释性领域可能存在的 bitter lesson。
所属事件:前 OpenAI 可解释性负责人长文称神经网络本就干净引热议(24 条相关)→
「漫话AGI」频道最新
- 宾州居民拒绝每户 1 万美元补偿，抵制亚马逊大型数据中心进驻 — Polymarket · 2026-10-16
- Claude 团队 Felix Rieseberg 长文：教人类用 AI 更有野心的四种方式 — daniel_mac8 · 2026-10-16
- 1968年报纸神预言：计算机不会取代艺术家，只会给他更强的画笔 — mtizard · 2026-10-16
- AI 焦虑解方:先想清楚「发挥潜力」对你自己意味着什么 — dejavucoder · 2026-10-16
- 「LLM 不理解任何东西」遭神反转回怼：人也只是生物神经网络 — VoidStateKate · 2026-10-16
- Nina Schick:欧洲政策圈仍不信 FSD 与太空算力已成现实 — NinaDSchick · 2026-10-16