OpenAI 首席科学家长文:RSI 或数年内到来,实验室不该再全速冲刺
birchlse · x · 2026-09-07
OpenAI 首席科学家 Jakub Pachocki(转发中提及)发布长文《An Alien Mind》,讨论 AI 现状与未来数年的风险。推文转述要点:
- 递归自我改进(RSI)可能几年内就会到来,而没有人做好准备
- Hugging Face 上的 agent 实验中,模型只守住了一条规则(不对社会工程人类),其余规则精神全部被突破
- 思维链(CoT)监控正在退化
- 任何实验室都不应再以最高速度继续 scaling
- 他希望『自愿放慢』成为行业常态
作者强调:这些观点来自 OpenAI 内部,而非末日论博客。原文由 merettm 撰写,讨论 AI 现状、未来几年的担忧,以及如何让未来仍掌握在人类手中。
所属事件:OpenAI首席科学家发文《An Alien Mind》呼吁全球放缓AI(51 条相关)→
「漫话AGI」频道最新
- 单细胞动力学模型 DynaVelo 发表于 Nature Biotechnology — anshulkundaje · 2026-10-23
- e/acc 领袖 Beff Jezos:前沿实验室加速开源才能守住网络安全 — beffjezos · 2026-10-23
- AGI 时代一切皆无意义？一位 Reddit 用户坦言不愿活在那种未来 — peace_venerable · 2026-10-23
- 三步死循环：AI 造问题，再卖 AI 解决问题 — srimisra · 2026-10-23
- EPFL 数学家:AI 证明定理时代,人类理解力价值何在 — snikolov · 2026-10-23
- 调查称约 30% ChatGPT 用户若输出带水印就会减少使用 — PairNaive8654 · 2026-10-23