前 OpenAI 可解释性负责人:万亿参数模型的电路大多已可读,对齐或一年内可解
gabriel1 · x · 2026-10-16
Nick Cammarata(曾在 OpenAI 合著早期机械可解释性工作并发起首个大规模自动可解释性项目)发文称,可解释性可能是当下最重要的科学问题。他当年用早期工具只能读出约 2% 的神经元而感到悲观,但用现代 agentic 工具深入观察后发现,高达万亿参数规模的模型中绝大多数神经元与电路都是可读的。转发者 Adam Majmudar 称这是年度最重要结果,分量堪比《Attention Is All You Need》:它把问题从「对齐是否可解」推进到「可能一年内解决对齐」,并给出四个关键信念更新,包括神经网络并非对人类根本不可理解、真正的递归自对齐(RSI)由此解锁。
所属事件:「神经网络本就干净」引爆可解释性大争论(52 条相关)→
「漫话AGI」频道最新
- DHH:Starship 与 Grok 本应是欧洲的「斯普特尼克时刻」 — georgemillo · 2026-10-16
- Hinton 回击黄仁勋:他唱衰 AI 危险论是为了多卖英伟达芯片 — BlackHC · 2026-10-16
- Yudkowsky 怒斥可解释性新进展，转发者反驳「末日论者永远可以说不够」 — AlexTensor · 2026-10-16
- Beff Jezos：技术加速已到文明级拐点 — beffjezos · 2026-10-16
- 数据科学家自述:未来五年最稳的转型是转向 AI 工程 — mdancho84 · 2026-10-16
- 学者争论：AI 将超越人类做科学，欧洲躲不开只能用别人的 — teortaxesTex · 2026-10-16