OpenAI早期可解释性研究者:现代工具下大模型多数神经元已可读
CatAstro_Piyush · x · 2026-10-31
OpenAI 早期机制可解释性研究者 Nick Cammarata 发长文称,可解释性可能是当下最重要的科学问题——不了解模型内部在做什么就无法解决对齐。他早年参与 OpenAI 首个大规模自动化可解释性项目时相当悲观:用原始工具只能读懂约 2% 的神经元。但借助现代 agentic 工具深入观察后,图景完全改变:在高达数万亿参数的模型中,绝大多数神经元与回路都是可读的。转发的推文附有一份无门槛的机制可解释性视觉化讲解,将其置于该领域的历史脉络中。
「漫话AGI」频道最新
- Epoch 数据：开源模型与闭源能力差距缩至不到 10 分 — SpencrGreenberg · 2026-10-31
- Metaculus 预测：2027 年 7 月前开源模型达超人类黑客水平概率 96% — SpencrGreenberg · 2026-10-31
- 「反 AI 艺术是特权式守门」观点引发辩论 — heyneighbor · 2026-10-31
- 芝加哥研究:千名大学生为摆脱智能手机平均索价数千美元 — aakashgupta · 2026-10-31
- 网友热议:DeepSeek 若发论文教人造无限制模型,比直接发布更具颠覆性 — teortaxesTex · 2026-10-31
- 投资人 Bindu Reddy：企业把 AI 当 $20 福利，万亿估值泡沫将破 — bindureddy · 2026-10-31