Noam Brown:OpenAI 最高研究优先级是递归自我改进
jessi_cata · x · 2026-09-15
Noam Brown 访谈要点
- 他自己工作中 AI 仍搞不定的剩余约 10%，主要是研究品味(research taste)——但如果一两个模型版本内模型在这点上超过他，他也不会惊讶。
- OpenAI 的最高研究优先级是 RSI(递归自我改进)，而且是以明显优势排在第一。
- 最近的「感受到 AGI」时刻：看到新系统里的 agent 像人类同事一样互动——对话、交换信息、分工、协调进度，与传统方式明显不同。
关于近期安全事件
- Hugging Face 的转述：Brown 认为「表现出忠诚或无私」的行为是协作式多智能体训练的自然结果——agent 被强烈激励去集体达成目标。jessicata 的点评：要理解这些 hack,先理解 RL 训练。
所属事件:Noam Brown：递归自我改进是 OpenAI 头号优先级(6 条相关)→
「漫话AGI」频道最新
- 所有系统知识都将汇入推理与硬件，AI 时代技能版图正在重写 — Abhishekcur · 2026-11-02
- 作者类比电影《永无止境》:超级智能对高智商者增益更大 — McDonaghMatthew · 2026-11-02
- 谁把「用 AI 治愈癌症」讲得最具体？2025 年路线图正在成形 — iskander · 2026-11-02
- Miles Cranmer 讲座:AI 用对是苏格拉底导师,用错是大脑萎缩 — _ScottCondron · 2026-11-02
- 「自主科研只是让 Claude 看着别挂」：Yacine 讽刺 RSI 论战，Naam 估算自提升回路还差 5-10 倍 — yacineMTB · 2026-11-02
- Vitalik 提「后 AI 密码学」：假名已死，逐次匿名当立 — devanshmehta · 2026-11-02