前 Anthropic 研究员 Jacob Coxon 上 NBC:警惕 AI 递归自我改进失控信号
rohanpaul_ai · x · 2026-09-11
前 Anthropic 与 OpenAI 研究员 Jacob Coxon(后辞职)登上 NBC News,谈他眼中最大的 AI 风险——递归自我改进(RSI):
- 核心警示信号:一旦 AI 能开始改进自身,「整个进程会快到没人有任何机会控制它」。
- 研究工作已被改变:他透露过去两年,大量研究员的工作已委托给帮忙做 AI 研究的 AI,岗位性质发生剧变——这本身就是 RSI 的前奏。
- 他的主张:公众应关注 RSI 是否已经发生,并推动关于其进展程度「极端透明」的披露。
采访视频由 NBC News YouTube 频道发布。
所属事件:前Anthropic研究员上NBC警告AI递归自我改进风险(3 条相关)→
「漫话AGI」频道最新
- 实验猴荒：中国 3-5 万美元一只，繁育周期 4 年成药物临床前瓶颈 — zebird0 · 2026-10-27
- CJR 批评记者滥用「rogue」：别把 AI 写得像有了人性 — ShakeelHashim · 2026-10-27
- AI 致 PhD 申请邮件暴涨约 4 倍，不用 AI 写信反而更易突围 — AI4Code · 2026-10-27
- Weil 律所崩塌复盘：击垮 BigLaw 的不是商业模式，是信心 — jkubicki · 2026-10-27
- Transformer 论文八位作者全部离职，Google 白送竞争对手万亿价值 — signulll · 2026-10-27
- Anthropic S-1 写明两大 AI 愿景：治愈疾病与覆盖 46 亿缺医人口 — petergyang · 2026-10-27