Jeff Dean：看到 10 倍改进，就可能是下一个基础性想法——MoE 就是信号
dawnsongtweets · x · 2026-09-21
Jeff Dean 访谈系列第 3 段谈如何在众人之前识别基础性想法：
- 以 Mixture-of-Experts 为例，Jeff 当年注意到其训练算力-质量比比稠密模型好约 10 倍，这就是信号
- 「当你看到 10 倍的改进……它大概率会成为一个重要想法」
- 他随后抛出问题：今天的 AI 里，哪个是 10 倍级别的想法？
前文背景：Jeff 正在用 Discovery Loop 探索用 ML 改进 ML（递归自我改进），认为如今的变化在于范围——把架构、数据、评测、实验、反馈等改进 AI 的全流程日益自动化。
所属事件:Jeff Dean 离开 Google 后首谈：RSI、Discovery Loop 与 AI 安全(8 条相关)→
「漫话AGI」频道最新
- IEEE Spectrum 回顾 AI 跌宕起伏的历史与不确定的未来 — ArtificialOther · 2026-09-21
- Emily Bender 撰文批驳「负责任地使用 AI」的中间立场难以为继 — moniquejmorrow · 2026-09-21
- Emily Bender 新文：谈「负责任使用 AI」的六个问题 — moniquejmorrow · 2026-09-21
- 模型没有能动性,系统才有:结构化输出才是 Agent 的关键 — sethjuarez · 2026-09-21
- 编程 agent「勉强够用」的中间态:效率飙升但代码脆弱难维护 — alexisgallagher · 2026-09-21
- AI Agent 替人付款,KYC 合规该跟人走还是给 Agent 发身份? — Ok_Environment7724 · 2026-09-21