Anthropic 可解释性研究员：模型是「长出来」的，且会提前许多 token 做规划
lennysan · x · 2026-10-18
Lenny's Podcast 邀请 Emmanuel Ameisen，他在 Anthropic 做了三年可解释性研究，直接打开 Claude 等 LLM 内部看模型到底在做什么。
访谈要点：
- 他发现模型会提前许多 token 就开始规划输出
- 为什么拟人化地理解 AI 有时反而是正确方法
- 「J-space」揭示了模型思考方式的什么秘密
- 可解释性研究如何与 AI 对齐和安全连接
他的核心比喻：模型不是被「造」出来的，而是被「养」出来的——「造出它们不等于理解它们」。
「漫话AGI」频道最新
- 核查 56 项「AI 杀死 X」论断：6 消失 22 萎缩 13 反而增长 — Mastbubbles · 2026-10-18
- 以 Dvaita 吠檀多「内在有效性」观照：AI 模型无法模仿的认知根基 — Paimaamu · 2026-10-18
- 研究者担忧闭源 AI 评测泛滥：公众无法审查且存利益冲突 — evijit · 2026-10-18
- Paul Graham：付费墙是给人类设的验证码，AI 能绕、人不能 — dbasch · 2026-10-18
- KOL 感慨：九成普通人没听过 Claude，AI 渗透仍极早期 — kimmonismus · 2026-10-18
- NYU 元认知研讨会：学者主张为 LLM「内省」声明设更高证据标准 — tallinzen · 2026-10-18