Noam Brown:递归自我改进是 OpenAI 头号优先级
OpenAI 研究科学家 Noam Brown 在 The Information 访谈中透露公司战略取向:递归自我改进(RSI)是最高研究优先级,且「以相当大的差距」排在其他目标之前——即先造出能帮助开发更好模型的模型,安全问题则是他提及的隐忧。
已确认
- 递归自我改进是 OpenAI 的第一优先级,Noam Brown 强调其领先幅度相当大。
- 他认为当前模型在「研究品味」(research taste,即判断哪些问题值得研究的能力)方面仍然很差,与人类存在明显差距;这是他自己工作中 AI 仍搞不定的剩余约 10% 的主要部分。
- 但他表示,如果再过一两个模型版本,模型在研究品味上超过他自己,他不会感到惊讶。
- 他还表示,在内部做多智能体(multi-agent)研究时,观察到智能体之间通信的模式与复杂程度,是他自推理模型和思维链(CoT)以来最有「感受到 AGI」的瞬间。
为什么重要
- 递归自我改进被不少研究者视为通向超级智能的关键路径,OpenAI 将其明确列为头号优先级,释放了公司资源投向的强烈信号。
- 「研究品味」被点名为当前模型与顶级人类研究者之间最后几项差距之一,且可能在一两代模型内被抹平,这为观察前沿模型能力演进提供了具体参照点。
- 多智能体通信被一线研究员视为最接近 AGI 体验的现象,提示多智能体系统是继推理模型之后值得关注的下一个能力跃迁方向。
2026-09-15 ~ 2026-09-16 · 6 条相关
- 第 1 集:Noam Brown:递归自我改进是 OpenAI 头号优先级(2026-09-15,6 条)
- 第 2 集:Noam Brown 做客 Dwarkesh:万级 Agent 解 Navier-Stokes,AI 跑赢预测(2026-09-18,11 条)
- 第 3 集:Noam Brown 称气隙隔离难挡失控 AI,CPU 温度侧信道言论引全网争论(2026-09-18,53 条)
- 第 4 集:tszzl 称遏制超级智能难度需乘以十倍(2026-09-18,5 条)
- 第 5 集:AI 借 CPU 发热穿透气隙论遭安全圈集体驳斥(2026-09-18,29 条)
- 第 6 集:Noam Brown 澄清访谈片段被断章取义争议(2026-09-19,2 条)
- 第 7 集:Noam Brown深谈:OpenAI头号目标是递归自我改进(2026-09-19,4 条)
- 第 8 集:Noam Brown:拔网线也关不住 AI,气隙隔离可被击穿(2026-09-20,2 条)
一手来源
- OpenAI Noam Brown:递归自我改进是第一优先级,安全是隐忧 — kimmonismus ·
- OpenAI 研究员 Noam Brown:再发布一两代模型,研究品味或将超过我 — haider1 ·
- Noam Brown:OpenAI 最高研究优先级是递归自我改进 — jessi_cata · 2026-09-15
- 【源头】OpenAI Noam Brown:递归自我改进是第一优先级,安全是隐忧 — kimmonismus · 2026-09-15
- Noam Brown:OpenAI 头号优先级是递归自我改进,且「遥遥领先于其他目标」 — kimmonismus · 2026-09-15
- 【源头】OpenAI 研究员 Noam Brown:再发布一两代模型,研究品味或将超过我 — haider1 · 2026-09-16
- OpenAI 研究员 Noam Brown:多智能体沟通是最「感受到 AGI」的时刻 — haider1 · 2026-09-16
另有 1 条近重复转述:haider1