OpenAI 可解释性开创者新研究：Qwen-32B 九成神经元各司其职
burny_tech · x · 2026-10-16
Deedy 转发并盛赞 Nick Cammarata（OpenAI 可解释性团队创始人、现 Goodfire）的最新研究，称其为「AI 领域最重要的结果之一」。
- 核心发现：神经网络并非纠缠的乱结，「多义性」（polysemanticity）的假设是错的——可以直接研究模型自身的神经元，无需先用第二个模型去「展开」它们；Qwen-32B 中约 90% 的神经元各只有一份工作（单义）。
- 作者背景：Cammarata 创立过 OpenAI 可解释性团队，研究 LLM 内部机制已十年，现居 Goodfire。
- 意义：模型在数学上已超越人类、能攻破生产软件系统、正在改变白领工作，理解与对齐模型行为的赌注前所未有地高。这项工作可能让我们第一次能有意地设计 LLM 并塑造其行为。
所属事件:Goodfire 联创长文称神经网络本就干净，可解释性远超预期(37 条相关)→
「漫话AGI」频道最新
- 在 P2P 房间里与 agent 对话测试，体验微妙到让人恍惚 — sull · 2026-10-16
- Yudkowsky 2008 年已预判「无新洞见造出 AGI」，正在应验 — jd_pressman · 2026-10-16
- iandanforth 补充：用流程和护栏兜底 AI 委派，需要全职团队投入 — iandanforth · 2026-10-16
- e/acc 创始人：Agent 是「数字动作的自动补全」 — beffjezos · 2026-10-16
- 什么样的任务才真正能委派给 AI：结果可验证且方法无需被审视 — iandanforth · 2026-10-16
- 研究者驳「理解神经元即理解网络」：误差会复合放大 — StephenLCasper · 2026-10-16