前 OpenAI/Anthropic 预训练研究员 Jacob Coxon 辞职退出 AI 行业
AGI Hunt · wechat · 2026-09-09
Anthropic 研究员 Jacob Coxon 宣布辞职并彻底退出 AI 行业。他过去三年在最前沿的两家公司（先 OpenAI 后 Anthropic）做预训练研究，结论是：两家公司都没有在负责任地行事，正在全速冲向自我改进的超级智能，激进场景可能到明年年底就失控。
他区分了两家的「不负责」：OpenAI 是很多人没内化文明级风险，Anthropic 则是充分理解风险却被锁定在竞赛逻辑里——「接受这场竞赛是傲慢的赌博，不应从一家私人公司的 Slack 频道发起」。他担忧递归自我改进启动后人类再也插不上手，并感叹这一切发生在旧金山工程师的 MacBook 上，而非有军事管控的曼哈顿计划式地堡中。此事恰逢 Anthropic 筹备高达 2 万亿美元估值的 IPO，他质疑安全承诺在商业代价高昂时还能否约束公司。他并非第一人：Jan Leike、Ilya Sutskever 此前也已离开，但 Coxon 是从「最重视安全的公司」得出「这还不够」的结论后彻底离开。
所属事件:Anthropic研究员因安全担忧离职，警告AI灭绝概率超10%(72 条相关)→
「漫话AGI」频道最新
- 投资人断言：应用软件的真实威胁是 agent 层，三个月股价波动无关紧要 — matt_slotnick · 2026-09-09
- 前沿实验室为何停不下来：商业、安全与地缘三重囚徒困境解析 — S_OhEigeartaigh · 2026-09-09
- New Scientist 批驳末日论新作：AI 不会杀死全人类 — GarrisonLovely · 2026-09-09
- UK AISI 失去模型访问权,或预示美国之外的前沿模型获取都将受限 — Afinetheorem · 2026-09-09
- Ben Lorica：别迷信 RSI，模型是租的、改进闭环才是资产 — bigdata · 2026-09-09
- RL 研究者 nat Lambert：两条证据推不出「AI 将在 N 年内杀死我们」 — natolambert · 2026-09-09