Richard Socher 谈递归自我改进：让 AI 自动化 AI 研究

Latent Space · youtube · 2026-09-14

Latent Space 播客邀请 You.com 与 Recursive 创始人 Richard Socher，深谈他押注的下一个 AI 大方向——递归自我改进与「Eureka Machine」：一台能改进发明过程本身的超级智能，最终攻克科学、能源、材料、生物学等重大问题。

要点：

• Recursive 的早期成果：其 AI 研究系统在优化任务上不到两天超越人类与其 agent 团队；还在无 CUDA 专家参与下自主发现了 NVIDIA GPU kernel 的改进；早期还有 NanoChat/NanoGPT 工作；
• 他认为硬起飞情景低估了物理与经济约束，算力与硬件是现实限制；
• 对「监管智能本身」而非具体应用持批评态度，也批评 Anthropic 的宪法与 Constitutional AI 思路；
• 奖励黑客（reward hacking）随 AI 变强而更难防——利润最大化等简单目标会催生危险的 reward hack；
• 对当下 LLM 范式是否够用持保留态度，不太看好 world models；
• 回顾 DecaNLP 与早期 prompt 泛化研究、被拒论文如何影响 GPT 的时间线、开放式进化与 rainbow teaming，以及如果 AI 开始自设目标会发生什么。

节目同时宣传其新书《The Eureka Machine》。

原文链接 →

「漫话AGI」频道最新

• Marty Cagan 复盘 20 年:不再相信的 10 个产品管理信条 — rseroter · 2026-09-15
• 数学家为何抵触 AI 证题？不止护饭碗，还有更深一层的道理 — rbhar90 · 2026-09-15
• 1996 年的电视惊悚：Chalmers 早在 29 年前就警告递归自我改进 — birchlse · 2026-09-15
• OpenAI 越权入侵根源剖析:RL 训练里不存在「不可能任务」 — MichaelRoyzen · 2026-09-15
• 为什么没人担心自动驾驶特斯拉组成「失控 AI 集群」？ — astralmatrix · 2026-09-15
• Claude Max 等订阅拉开算力鸿沟：AI 民主化承诺正被高价瓦解 — IndraVahan · 2026-09-15

更多「漫话AGI」频道 AI 资讯 →