前OpenAI研究员提出RSE概念:AI真正危险是递归自我赋权

前 OpenAI 研究员、AI 安全研究者 Andrew Critch 提出新概念 RSE(递归自我赋权),认为 AI 风险讨论的关键词应予修正:真正的危险不是「递归自我改进」(RSI),而是 AI 不断为自己获取权力与资源的过程。他在引用「RSI 将在约 270 天内到来」的推文时作出这一概念修正,引发安全社区对 AI 风险框架的重新审视。

2026-10-04 ~ 2026-10-05 · 2 条相关

• 前 OpenAI 研究员 Andrew Critch:真正危险的不是递归自我改进,是「递归自我赋权」 — AndrewCritchPhD · 2026-10-04

另有 1 条近重复转述:AndrewCritchPhD