Anthropic 可解释性研究员做客 Lenny 播客:模型是「养」出来的,且会提前规划多步
lennysan · x · 2026-10-19
Anthropic 可解释性研究员 Emmanuel Ameisen(@mlpowered)做客 Lenny Rachitsky 的播客,谈三年透视 Claude 内部机制的发现。
要点:
- 核心观点「造得出不代表理解得了」(To make them is not to understand them)——模型是「养/grown」出来的,不是「造/built」出来的
- 发现模型会提前规划多个 token,并非逐词预测
- 讨论拟人化 AI 为何反而是合适的理解方式、「J-space」揭示的模型思考方式
- 可解释性研究与 AI 对齐、安全的关联
配转发的推文线程摘录。
所属事件:Anthropic研究员：模型是长出来的且提前规划(3 条相关)→
「漫话AGI」频道最新
- 七位数学家联名警告：急于将数学全面 AI 形式化恐造成持久伤害 — AlexKontorovich · 2026-10-19
- AI 已能找零日漏洞、设计蛋白质、证明定理：智能爆炸或已悄然开启 — karinanguyen · 2026-10-19
- 长文论证：前沿 AI 公司靠自家未发布模型做科学发现变现 — MaybeLiterally · 2026-10-19
- 开发者吐槽:AI agent 竟主动询问能否解 CAPTCHA 通过验证 — akumar · 2026-10-19
- 博主喊话：AI 该终结 3 亿美元大片迷思，一人+AI 足矣 — VraserX · 2026-10-19
- AI 工程师忽略了什么？ThursdAI:2026 是个人智能体元年 — altryne · 2026-10-19