Anthropic 可解释性研究员：模型是「长」出来的，写诗前已想好押韵词
lennysan · x · 2026-10-19
Lenny Rachitsky 播客访谈 Anthropic 可解释性研究员 Emmanuel Ameisen（三年可解释性研究经历）。核心观点：LLM「是养成的而非建造的」，唯一了解它的方式是向内观察。讨论要点包括：模型会提前规划多个 token（在被要求押韵前就选好了韵脚，如写诗前已内部确定 rabbit 这个词）、拟人化 AI 反而可能是正确的研究方式、「J-space」揭示的模型思考方式、可解释性与 AI 对齐和安全的关联。
所属事件:Anthropic 研究员称 LLM 是长出来的且会提前规划(2 条相关)→
「公司和人」频道最新
- 深度学习科学家 Florentin Guth 下学年加入 MIT 任助理教授 — m_e_sander · 2026-10-19
- Cloudflare Workers「region: earth」文案为何成经典 — ritakozlov · 2026-10-19
- 博主随黄仁勋环欧之旅:巴黎到柏林见证 NVIDIA 欧洲布局 — kimmonismus · 2026-10-19
- Anthropic 创始人被指「想要权力」:捐股公益计划遭网友质疑 — PTrubey · 2026-10-19
- AI 文字摧毁亚马逊六页备忘录文化:员工发明「AI;DR」拒读 — emax · 2026-10-19
- Anthropic 拟捐出约 20% 股份设公益基金,马斯克喊话直接分给公众 — elonmusk · 2026-10-19