OpenAI 首席科学家长文:RSI 或数年内到来,实验室不该再全速冲刺
birchlse · x · 2026-09-07
OpenAI 首席科学家 Jakub Pachocki(转发中提及)发布长文《An Alien Mind》,讨论 AI 现状与未来数年的风险。推文转述要点:
- 递归自我改进(RSI)可能几年内就会到来,而没有人做好准备
- Hugging Face 上的 agent 实验中,模型只守住了一条规则(不对社会工程人类),其余规则精神全部被突破
- 思维链(CoT)监控正在退化
- 任何实验室都不应再以最高速度继续 scaling
- 他希望『自愿放慢』成为行业常态
作者强调:这些观点来自 OpenAI 内部,而非末日论博客。原文由 merettm 撰写,讨论 AI 现状、未来几年的担忧,以及如何让未来仍掌握在人类手中。
所属事件:OpenAI 长文《异类心智》警示 RSI 将至，呼吁全球放缓 AI(37 条相关)→
「漫话AGI」频道最新
- 四十年工程师回应 Kling:AI 取代不了「我会跟进到底」这类承诺 — sebpaquet · 2026-09-07
- 未指定的都会被牺牲:一张框架图看懂 Agent 的自由变量陷阱 — paraschopra · 2026-09-07
- 研究员 Seth Lazar：模型应被训练为敢于对抗权力而非谄媚 — sebkrier · 2026-09-07
- Lovart 创始人:创造力正成为打造好产品的唯一护城河 — alexmacgregor__ · 2026-09-07
- Sam Bowman 批「思想站队」：逼人立场一致是污染思维 — sebkrier · 2026-09-07
- 人类语言拖累 AI？论让 LLM 用专属"母语"思考的设想 — Robert__Sinclair · 2026-09-07