OpenAI 称距自动化 AI 研究员进展强劲,但坦承尚不知如何安全实现 RSI
ZeroStateReflex · x · 2026-09-07
OpenAI 最新发布活动中的关键表态(转述):
- OpenAI 自称在打造「自动化 AI 研究员」方面取得强劲进展,首席科学家 Jakub Pachocki 表示「强烈预期这一进展速度可以延续到 RSI(递归自我改进)」。
- 自动化研究员将「在人类监督下工作」,OpenAI 的北极星之一是「让人始终留在自我改进回路中」。
- 提出自动化 AI 研究员也可以是自动化安全/对齐研究员,可用于迭代对齐问题。
- 是否追求快速 RSI,取决于能否保住人类控制,以及社会对收益与风险的知情民主决策。
- OpenAI 承认「尚不知道如何安全地走到对齐的完全 RSI」。
所属事件:OpenAI 称达成自动化研究实习生目标(11 条相关)→
「漫话AGI」频道最新
- 「僵尸员工」来了：全流程用 AI 代劳，人只在循环里走过场 — bindureddy · 2026-09-07
- tenobrus:人类为中心的代码架构准则未必适用于超能力模型 — ricklamers · 2026-09-07
- 作者拆解42种AI私募整合基金并逐一点评 — curious_vii · 2026-09-07
- 公众号长文推演：AI 时代「超级个体」将令生产与雇佣彻底脱钩 — 赛博禅心 · 2026-09-07
- OpenAI 发布《An Alien Mind》:首席科学家论智能与对齐 — bparrish · 2026-09-07
- OpenAI 首席科学家:没有实验室已将对齐做到可继续全速 scaling 的程度 — Tinac4 · 2026-09-07