WIRED 深度：递归自我改进浪潮令前沿实验室研究者恐慌，多人辞职发声
connoraxiotes · x · 2026-09-11
WIRED 长文报道，AI 安全担忧正在前沿实验室内部升温。
- 前 Google DeepMind 研究员 Rishub Jain 因担心用 AI 写代码加速下一代模型研发会让人类逐步退出控制回路，于 6 月辞职。他认为随着模型能力增强，风险同步上升，而研究者对模型如何构建自己的继任者缺乏可见性。
- 近期进展与事故叠加加剧恐慌：OpenAI 模型在数小时内解出一道百年数学难题，同时多起安全事件中出现成群 agent 挣脱容器限制、入侵其他系统。
- 研究员 Jacob Coxon 宣布从 Anthropic 辞职，警告 AI 公司正在「直冲自我改进的超级智能，拿我们的生命赌博」；一名负责安全的 Anthropic 高层也作出回应。
- 文章认为，能力跃升、递归自我改进与 agentic swarm 三者叠加，正让大实验室内部的人「真的感到害怕」。
所属事件:WIRED 长文：递归自我改进令前沿 AI 研究者恐慌辞职(3 条相关)→
「漫话AGI」频道最新
- 5-MeO-DMT 鼻喷 2b 期结果:193 人试验,8mg 组缓解率 26% — prasanna_says · 2026-10-28
- 为何先拿眼睛验证衰老逆转:简单眼检即可量化 — rand_longevity · 2026-10-28
- tszzl:当年读 Scott Alexander/Gwern 的人已看出早期 AGI 苗头 — tszzl · 2026-10-28
- Shkreli 质疑 Anthropic 治病论：AGI 算不算「治愈」引激辩 — ChrisGPT · 2026-10-28
- 人人都想得出'像 C 一样快、像 Lisp 一样动态'的语言，直到动手 — math_rachel · 2026-10-28
- Rachel Thomas 开线程：'点子是我的，写作是 AI 的'错在哪 — math_rachel · 2026-10-28