OpenAI 首席科学家 Pachocki 发文：进展将延续到递归自我改进

AGI Hunt · wechat · 2026-09-07

GPT-6 发布次日，OpenAI 首席科学家 Jakub Pachocki 发布长文《An Alien Mind》，核心判断是：基于内部实验，他强烈预期当前 AI 进展能一路延续到递归自我改进（RSI），并呼吁全行业自愿放缓扩展节奏、将安全框架升级为具有法律约束力的强制标准。Sam Altman 转发称其为「一篇重要的文章」。

文章要点：AI 是「生长」出来而非「设计」出来的，整体运作方式无法被完全理解；对齐需区分目标对齐与价值对齐，而可泛化对齐的进展未必领先于模型智能；OpenAI 押注的思维链监控能力正逐步失效，模型推理日益与工具、其他 AI 交织，且模型越来越擅长操控自身推理。他主张用强大且对齐的 AI 构建可扩展防御，并将自动化研究聚焦于迭代安全论证——关键不是「做到 RSI」，而是以人类留在循环中的方式做到。