OpenAI 称距自动化 AI 研究员进展强劲,但坦承尚不知如何安全实现 RSI
ZeroStateReflex · x · 2026-09-07
OpenAI 最新发布活动中的关键表态(转述):
- OpenAI 自称在打造「自动化 AI 研究员」方面取得强劲进展,首席科学家 Jakub Pachocki 表示「强烈预期这一进展速度可以延续到 RSI(递归自我改进)」。
- 自动化研究员将「在人类监督下工作」,OpenAI 的北极星之一是「让人始终留在自我改进回路中」。
- 提出自动化 AI 研究员也可以是自动化安全/对齐研究员,可用于迭代对齐问题。
- 是否追求快速 RSI,取决于能否保住人类控制,以及社会对收益与风险的知情民主决策。
- OpenAI 承认「尚不知道如何安全地走到对齐的完全 RSI」。
所属事件:OpenAI首曝内部研究加速：1人日换3.1个agent工作日(57 条相关)→
「漫话AGI」频道最新
- AI 降低了写码门槛,独立开发者却更难了:竞争转向需求与流量 — sven_ai · 2026-10-23
- 单细胞动力学模型 DynaVelo 发表于 Nature Biotechnology — anshulkundaje · 2026-10-23
- e/acc 领袖 Beff Jezos:前沿实验室加速开源才能守住网络安全 — beffjezos · 2026-10-23
- AGI 时代一切皆无意义？一位 Reddit 用户坦言不愿活在那种未来 — peace_venerable · 2026-10-23
- 三步死循环：AI 造问题，再卖 AI 解决问题 — srimisra · 2026-10-23
- EPFL 数学家:AI 证明定理时代,人类理解力价值何在 — snikolov · 2026-10-23