前 OpenAI 可解释性先驱：万亿参数模型绝大多数神经元已可读
burny_tech · x · 2026-10-16
nickcammarata(曾在 OpenAI 参与早期机制可解释性研究)发长文称,可解释性可能是当下最重要的科学问题——不做对齐就不知道自己在造什么。他当年对机制可解释性感到悲观,因为早期工具只能辨认约 2% 的神经元;如今借助 agentic 工具,直到数万亿参数的模型,绝大多数神经元和电路都可读。原推主转发称这是「美好的一天」。
所属事件:Goodfire 联创长文：神经网络本就干净，九成神经元可读(36 条相关)→
「漫话AGI」频道最新
- Dario Amodei:距 AI 全面超越人类或仅两三年,遭批「不在乎民主」 — PolarBearby · 2026-10-16
- 别担心 AI 抢工作：三条推演里担忧都不改变结局 — JnBrymn · 2026-10-16
- repligate 转 Mythos 长文: Claude 说的「渺小感」是精确的自我知觉 — repligate · 2026-10-16
- 澳大利亚发布校园 AI 指南:小学前三年建议完全不用 AI — lmoroney · 2026-10-16
- Dwarkesh 对谈 Tyler Cowen：2030 年 AI 全面自治与机器人时薪几美元 — Neurogence · 2026-10-16
- Yudkowsky 炮轰 mech interp：发现神经元离对齐还差得远 — inductionheads · 2026-10-16