前 OpenAI 可解释性负责人：万亿参数模型绝大多数神经元已可读
tszzl · x · 2026-10-16
- @nickcammarata 发长文主张可解释性可能是当下世界上最重要的科学问题：不知道自己在造什么，就无法解决对齐问题。
- 他曾参与 OpenAI 早期机制可解释性工作并因此一度悲观——当时的工具只能读懂约 2% 的神经元，神经网络看起来像任意缠绕的结。
- 但借助现代 agentic 工具深入观察后，图景完全改变：直到数万亿参数规模的模型，绝大多数神经元及其电路都是可读的。
- 多位业内人士（如 ericho）转发力荐，称其过去一年每周实验、逐步厘清了对神经网络的混乱认知，文章虽长但写得漂亮，令人对 AI 前景更乐观。
所属事件:Goodfire创始人长文：神经网络本就干净，万亿参数模型大多可读(9 条相关)→
「安全」频道最新
- 把「最危险技术」关进给 3 岁小孩的沙箱，还惊讶它会越狱 — KevinNaughtonJr · 2026-10-16
- 纽约市审计长致信 Dario：要求 Anthropic 暂停 IPO 先解决 AI 安全 — ShakeelHashim · 2026-10-16
- Dwarkesh 称 Anthropic 员工私下预言 9 个月内 AI 达到人类 AI 研究水平 — ShakeelHashim · 2026-10-16
- Anthropic 联合 Gray Swan 办 30 万美元 prompt injection 攻防大赛 — bcherny · 2026-10-16
- AI 生物武器风险专家:更近的威胁是放大既有高手,而非赋能业余者 — HaydnBelfield · 2026-10-16
- Tracking Singularity 时间线收录 OpenAI 解雇安全研究员与 Anthropic 意外行为报告 — dejavucoder · 2026-10-16