前 Anthropic 研究员 Jacob Coxon 上 NBC:警惕 AI 递归自我改进失控信号
rohanpaul_ai · x · 2026-09-11
前 Anthropic 与 OpenAI 研究员 Jacob Coxon(后辞职)登上 NBC News,谈他眼中最大的 AI 风险——递归自我改进(RSI):
- 核心警示信号:一旦 AI 能开始改进自身,「整个进程会快到没人有任何机会控制它」。
- 研究工作已被改变:他透露过去两年,大量研究员的工作已委托给帮忙做 AI 研究的 AI,岗位性质发生剧变——这本身就是 RSI 的前奏。
- 他的主张:公众应关注 RSI 是否已经发生,并推动关于其进展程度「极端透明」的披露。
采访视频由 NBC News YouTube 频道发布。
所属事件:前 Anthropic 研究员上 NBC 谈递归自我改进风险(2 条相关)→
「漫话AGI」频道最新
- 黄仁勋怒斥前 Anthropic 研究员言论,代际 AI 末日论之争发酵 — nptacek · 2026-09-11
- Gary Marcus 吐槽:rationalist 一词已被「AI 灵异故事」绑架 — GaryMarcus · 2026-09-11
- VC 公开叫板 OpenAI 研究员:敢押注 2030 年人类不灭绝吗 — joelbot3000 · 2026-09-11
- Anthropic 能力团队成员:AI 有中等概率致人类灭绝 — nabla_theta · 2026-09-11
- Anthropic 能力团队成员自述:为降低灭绝风险而入职 — EigenGender · 2026-09-11
- 和 AI 聊天后觉得自己像猴子:一位 Reddit 网友的独特体验 — grateful2you · 2026-09-11