Rich Sutton:合成数据是大错,目标是持续学习的万亿参数大脑
Training Data (Sequoia) · rss · 2026-08-18
强化学习先驱 Rich Sutton 与学生 Khurram Javed 创立 Oak Lab,致力于构建能从自身经验中持续学习而非依赖人类数据的智能体。Sutton 认为“持续学习”才是常态,批评当前主流的合成数据路径是“大错”。他们的“大世界假设”指出世界远比模拟器复杂,因此模型必须持续更新而非冻结。Sutton 称 LLM 是意外的突破,但仅占智能的四分之一,且灾难性遗忘可通过他们的持续反向传播算法治愈。他们预想 5-10 年内实现 20 瓦功耗、保持一致性且持续学习的万亿参数“大脑”。目前前沿大厂因陷入局部最优解而难以转向这一新范式。
「漫话AGI」频道最新
- AI 劳动力危机新解:不裁员,只是不再补离职空缺 — VraserX · 2026-08-18
- MIT 研究:大厂 AI 使用报告有偏差,工作场景被夸大 — nordicinst · 2026-08-18
- MIT 研究:AI 递归自我改进速度或慢于预期 — nordicinst · 2026-08-18
- VC 观点:AI 或仅为机器人前奏,无消费级时刻 — arian_ghashghai · 2026-08-18
- 牛津教授:领导者应忽略 AI 预测,主动塑造未来 — AnnaCiaunica · 2026-08-18
- AGI 已悄然降临:我们在争论定义时错过了它 — UAP44 · 2026-08-18