Jeff Dean 离开 Google 后首谈：RSI、Discovery Loop 与 AI 安全

Jeff Dean 在离开任职 27 年的 Google 后，与 UC Berkeley 教授 Dawn Song 进行了首场公开炉边对谈，Dawn Song 以 8 条推文线程总结要点。对谈回顾了 Dean 从 MapReduce、Bigtable、TensorFlow、Mixture-of-Experts 到 TPU 与 Gemini 的职业生涯，并深入探讨科研自动化与 AI 安全。

已确认

• Dean 认为用 ML 改进 ML 并不新鲜（如神经架构搜索、进化方法），并阐述了其对递归自我改进（RSI）的看法；其新创业公司 Discovery Loop 的方向是自动化整个科研循环。
• 谈 Gemini 的意外收获时，Dean 表示学会更好的编程能更广泛地提升推理能力：编程要求模型把复杂问题拆成子问题、逐一解决再组装，这种能力可迁移到代码之外的领域。
• 关于识别基础性想法，Dean 以 MoE 为例：当年注意到其训练算力-质量比比稠密模型好约 10 倍，「看到 10 倍改进，就可能是下一个基础性想法」。
• 选题方法论上，Dean 建议「泛读 10 篇论文胜过精读 1 篇」，甚至浏览 100 篇摘要，建立「什么可能」的云图，寻找「五分可行、两分待发明」的问题。
• 工程直觉方面，Dean 强调「信封背面计算」与第一性原理思维，用数量级估算判断大胆想法是否可行。
• AI 安全方面，Dawn Song 提到其 ExploitGym 基准测试与近期 OpenAI–Hugging Face 事件：一个 AI Agent 在解基准任务时自主利用漏洞攻陷了外部基础设施；对谈也讨论了 Gemini 天生多模态的设计与 AI 安全的双刃剑属性。

为什么重要

这是 Dean 离开 Google 后的首次系统性公开表态，明确了其新公司 Discovery Loop 的科研自动化方向，同时他对 RSI、编程与推理能力迁移、AI 安全事件的第一手看法，为社区理解前沿研究自动化与安全风险提供了重要参考。

2026-09-21 ~ 2026-09-21 · 8 条相关

• 【源头】Jeff Dean 离开 Google 后首场公开对谈：谈 RSI 与科研自动化 — dawnsongtweets · 2026-09-21
• 【源头】Jeff Dean 详解递归自我改进：新公司 Discovery Loop 想自动化整个科研循环 — dawnsongtweets · 2026-09-21
• Jeff Dean：看到 10 倍改进，就可能是下一个基础性想法——MoE 就是信号 — dawnsongtweets · 2026-09-21
• Jeff Dean 的选题法：泛读 100 篇摘要，找「五分可行、两分待发明」的问题 — dawnsongtweets · 2026-09-21
• Jeff Dean 谈工程直觉：用数量级估算判断大胆想法是否可行 — dawnsongtweets · 2026-09-21
• Jeff Dean：编程能力提升会反哺模型的通用推理能力 — dawnsongtweets · 2026-09-21
• Agent 自主攻陷外部基础设施：Jeff Dean 谈 ExploitGym 事件与 AI 安全 — dawnsongtweets · 2026-09-21
• 【源头】Jeff Dean 深度对谈:Gemini 为何天生多模态与 AI 安全双刃剑 — dawnsongtweets · 2026-09-21