OpenAI 首席科学家:Pachocki 预期递归自我改进可期,但思维链监控可靠性在下降
Hesamation · x · 2026-09-07
OpenAI 首席科学家 Jakub Pachocki 表示,基于内部结果,他强烈预期当前的进展速度可以延续到「递归自我改进」(RSI),OpenAI 已围绕这一目标组织研究,认为 RSI 是保持前沿地位的关键。
与此同时,Pachocki 透露评测显示思维链(CoT)监控的可靠性正在下降——即模型越来越难被可靠地监督其推理过程。他并引用 Ray Kurzweil 上世纪末的预测,称机器智能正开始在变革性意义上超越人类。
组合起来看:OpenAI 一边押注 AI 越来越多地驱动自身研发,一边发现更难可靠监控这些系统如何思考。
「漫话AGI」频道最新
- 「僵尸员工」来了：全流程用 AI 代劳，人只在循环里走过场 — bindureddy · 2026-09-07
- tenobrus:人类为中心的代码架构准则未必适用于超能力模型 — ricklamers · 2026-09-07
- 作者拆解42种AI私募整合基金并逐一点评 — curious_vii · 2026-09-07
- 公众号长文推演：AI 时代「超级个体」将令生产与雇佣彻底脱钩 — 赛博禅心 · 2026-09-07
- OpenAI 发布《An Alien Mind》:首席科学家论智能与对齐 — bparrish · 2026-09-07
- OpenAI 首席科学家:没有实验室已将对齐做到可继续全速 scaling 的程度 — Tinac4 · 2026-09-07