前 Anthropic 员工 Jacob Coxon 放弃七位数薪酬,警告模型自我改进临近
cen6wkf · reddit · 2026-10-08
Reddit 帖讨论前 Anthropic 内部人士 Jacob Coxon 离职并放弃七位数薪酬的事件,其核心理由是:当模型自身研发中约 26% 已经是「模型在造模型」时,2027 年的递归自我改进(RSI)就不再是预测,而是正在发生。
帖子作者用《绿灯侠》剧集「我是否在把儿子养成怪物」的台词作类比,并引中国成语「养虎为患」:楚汉相争时刘邦听取谋士建议撕毁鸿沟和约、追击项羽,最终垓下一战定天下——放虎归山必成后患。作者还引用该隐的圣经故事,结论是:无论 RSI 是否到来,人类都必须「辖制」AI,而非坐视其失控。
Coxon 的离职本身是 AI 安全阵营人才动向的标志性信号:内部知情者以真金白银为代价发出警告。
所属事件:前Anthropic研究员密集发声警告AI失控风险(7 条相关)→
「漫话AGI」频道最新
- Palantir CEO Karp 炮轰 Amodei 与 Altman:别让我们上瘾于你控制的未来 — BrettKrieger12 · 2026-11-20
- OpenAI 高官称将公开更多研究数据,外界称其已成最透明实验室 — soumitrashukla9 · 2026-11-20
- 卡内基分析:中国对 AI 减速呼声存疑虑而非拒绝 — mattsheehan88 · 2026-11-20
- 剑桥学者 Krueger 认同批评:Anthropic 的 RSI 路线对世界不透明 — DavidSKrueger · 2026-11-20
- 经济学家调侃:递归自我改进早在 60 万年前就开始了 — Moh1tAgarwal · 2026-11-20
- Jon Barron 更新速度饱和曲线图:下一个 S 曲线从未到来 — songyoupeng · 2026-11-20