Noam Brown 深谈智能体蜂群、递归自我改进与对齐信号
Dwarkesh Podcast · rss · 2026-09-17
Dwarkesh Podcast 发布 OpenAI 研究科学家 Noam Brown 的新访谈,聚焦自动化 AI 研究前夜的几个关键问题。
- 从多智能体协作与纳维-斯托克斯方程谈起:当前数学领域 AI 进展爆发,能给我们什么信号预示一旦自动化 AI 研究会发生什么。
- 讨论递归自我改进(RSI)启动前的对齐问题:我们如何判断模型真的对齐了?内/外部模型能力差距、思维链质量在退化等也被触及。
- 时间线涵盖:多智能体与 Navier-Stokes、AI 公司形态、数学进展与 RSI、Hugging Face 与对齐、内外部模型差距、思维链退化、对齐何时算解决。
- 节目由 Jane Street、Grok Bot、Antithesis 赞助,可看 YouTube 视频或读全文实录。
「漫话AGI」频道最新
- NeurIPS 轨道主席警告:LLM 写论文泛滥，学术已成「波将金村庄」 — dgrobinson · 2026-09-18
- Rob LeClerc:对齐不该与能力共用参数,AI 缺一个独立价值层 — robleclerc · 2026-09-18
- 走出恐怖谷之后：当AI拟真到分不清，我们站在「恐怖悬崖」边 — nsaphra · 2026-09-18
- 微软前高管回应暂停 AI 呼吁:当年停更修漏洞,没人去找国会 — neil_chilson · 2026-09-18
- FOOM 递归自我改进仅在 P=NP 时成立?一条推引出复杂性思辨 — jessi_cata · 2026-09-18
- Hinton 称 AI 长期看无法靠「 Kill Switch 」控制 — LurkerFromTheVoid · 2026-09-18