OpenAI 首席科学家:Pachocki 预期递归自我改进可期,但思维链监控可靠性在下降
Hesamation · x · 2026-09-07
OpenAI 首席科学家 Jakub Pachocki 表示,基于内部结果,他强烈预期当前的进展速度可以延续到「递归自我改进」(RSI),OpenAI 已围绕这一目标组织研究,认为 RSI 是保持前沿地位的关键。
与此同时,Pachocki 透露评测显示思维链(CoT)监控的可靠性正在下降——即模型越来越难被可靠地监督其推理过程。他并引用 Ray Kurzweil 上世纪末的预测,称机器智能正开始在变革性意义上超越人类。
组合起来看:OpenAI 一边押注 AI 越来越多地驱动自身研发,一边发现更难可靠监控这些系统如何思考。
所属事件:OpenAI首席科学家发文《An Alien Mind》呼吁全球放缓AI(51 条相关)→
「漫话AGI」频道最新
- 单细胞动力学模型 DynaVelo 发表于 Nature Biotechnology — anshulkundaje · 2026-10-23
- e/acc 领袖 Beff Jezos:前沿实验室加速开源才能守住网络安全 — beffjezos · 2026-10-23
- AGI 时代一切皆无意义？一位 Reddit 用户坦言不愿活在那种未来 — peace_venerable · 2026-10-23
- 三步死循环：AI 造问题，再卖 AI 解决问题 — srimisra · 2026-10-23
- EPFL 数学家:AI 证明定理时代,人类理解力价值何在 — snikolov · 2026-10-23
- 调查称约 30% ChatGPT 用户若输出带水印就会减少使用 — PairNaive8654 · 2026-10-23