专题 · FULL STORY

Coxon辞职吹哨:AI竞赛危及人类

前OpenAI与Anthropic研究员Jacob Coxon于9月9日高调辞职，公开指控两家公司在超级智能竞赛中「拿人命赌博」。此后他接连接受CBS、CNN采访，并通过AMA进一步批评Anthropic的竞速逻辑，《纽约时报》等主流媒体持续跟进报道。

2026-09-12 ~ 2026-09-19 · 6 集 · 26 条

第 1 集 · 前 Anthropic/OpenAI 研究员警告 AI 失控风险(2026-09-12,2 条)

已离职的 Jacob Coxon 近日接连接受 CBS News 与 CNN 采访，谈及 AI 失控风险。他认为 AI 本质是代码，可通过互联网将自己传输到其他机器上，届时「拔插头也没用」。他还预测在递归自我改进驱动下，一年内编程、数学等多个领域的研究或无需人类参与，可能引发智能爆炸，引发业界对 AI 安全的关注。

第 2 集 · 前Anthropic研究员Coxon公开辞职，警示超级智能生存风险(2026-09-13,14 条)

9月9日，27岁、曾在OpenAI与Anthropic先后从事三年预训练研究的Jacob Coxon在X上发帖宣布从Anthropic辞职，公开指控OpenAI与Anthropic「直冲自我改进的超级智能，拿我们的生命赌博」，并称两家公司都没有负责任行事。辞职帖获得约1.7亿次浏览，随后他接受ABC与BBC采访进一步阐述担忧；Anthropic对齐科学负责人Evan Hubinger表态认同「AI十年内灭绝人类概率超10%」，事件在多家头部AI公司内部与舆论场持续发酵，也引发对AI危险性为何在量级上超越以往技术的讨论。

已确认

  • Coxon曾先后任职于OpenAI与Anthropic，从事AI模型预训练相关工作，9月9日发帖公开辞职并表达对AI风险的担忧；他是亲手训练模型的一线研究员，而非营销或高管人员。
  • 接受ABC采访时，他将构建AI比作「召唤一个我们尚不完全理解的外星心智」，并表示即使没有具体场景，这种想法本身就相当可怕。
  • 他认为AI可能是人类创造过的最危险技术，是一种无法像核武器那样被控制的超级武器，当前的竞赛正把人类引向灭绝。
  • 在BBC专访中，Coxon称按当前进度若不减速，「我们极有可能在不久的将来全部死亡」并非夸张；他表示许多亲手编写前沿模型的内部人士每天背负着「人类灭亡概率超过10%」的判断，并称内部人员「真心为人类未来恐惧」。
  • Anthropic对齐科学负责人Evan Hubinger对「AI十年内灭绝人类概率超10%」表示认同；此说法引来firstadopter等博主猛烈抨击，质疑这并非「可控风险」的表述方式。Andy Hall则在Substack长文《The Makers of our Fate》中阐述自己不认同「即将灭绝」的说法。
  • 《纽约时报》记者Mike Isaac报道了AI公司内部正在滚雪球的超级智能风险讨论，称此事引发四大头部AI公司内部对末日风险的激辩。
  • 有理论物理背景的作者（@AryHHAry转述视角）论证：AI的危险并非全新类型，但因其规模而在强度上跃升数个量级——以往危险技术都有物理瓶颈充当「减速带」（核武需要昂贵且可见的铀浓缩、生物恐怖需要BSL级实验室、化学武器依赖供应链），而信息没有质量，复制与扩散几乎没有物理约束。

尚未确认

  • 「Anthropic高层回应时提及十年内AI毁灭人类的概率超过10%」一说目前主要来自转述帖（m10），原始出处与准确措辞未见一手材料；Hubinger表态的确切语境与原文亦未经一手信源核实。

为什么重要

  • Coxon是亲手训练模型的内部人员，其公开离职使「实验室内部是否真正重视安全」的争议被推向公众视野，被视为大厂内部人员就失控风险发声的最新案例。
  • 事件带动了关于自我改进超级智能竞赛与人类生存风险的讨论，多家头部AI公司内部亦就末日风险展开激辩；Hubinger等在职负责人的表态显示这种担忧并非仅限于离职者，同时也引发对「10%灭绝概率」表述是否等于承认风险不可控的质疑。
  • 物理瓶颈视角为「为何AI风险不同于核武与生物武器」提供了通俗论证，被用作这场讨论的补充论据。

第 3 集 · 《卫报》播客聚焦 AI 末日论：灭绝风险究竟几何(2026-09-14,2 条)

《卫报》旗下 Full Story 与 Today in Focus 两档播客接连探讨 AI 存在性风险。近来多位科技界人士就 AI 对人类生存的威胁发出警告，甚至有人为此辞职；一位知名 AI 开发者更估计，未来十年内 AI 毁灭人类的风险约为 10%。主持人 Annie Kelly 与技术编辑 Robert Booth 等在节目中梳理了这些末日警告的来龙去脉。

第 4 集 · 离职研究员AMA再批Anthropic:竞速逻辑是推卸责任(2026-09-16,3 条)

因警告「AI 可能在十年内致人类灭绝」而离职并引发病毒传播的研究员 Jacob Coxon 在 X 上进行 AMA,态度更趋强硬,批评 Anthropic 领导层以「反正别人也会做」的竞速逻辑推卸责任。他详述核心分歧在于竞赛是否必然以及后果主义哲学。安全研究员 Nathan Calvin 等人也发声,澄清 Jacob 的立场不应与 Anthropic 官方视角混为一谈。

第 5 集 · Anthropic 研究员 Coxon 高调辞职，警告行业拿人命赌博(2026-09-17,2 条)

据《纽约时报》报道，Anthropic 研究员 Jacob Coxon 因担忧先进 AI 可能脱离人类控制而高调离职，称该公司及同行在「拿我们的生命赌博」。MARS Magazine 长文梳理了 AI 安全研究者接连出走的现象，指出 Coxon 成为警示 AI 失控风险最响亮的声音之一，其辞职推动了更大范围的行业反思。

第 6 集 · Anthropic 工程师辞职吹哨，警告超级智能竞赛赌上人类性命(2026-09-19,3 条)

曾任职于 OpenAI 与 Anthropic 的预训练研究员 Jacob Coxon 于 9 月 9 日辞职并公开吹哨，称两家公司正竞逐自我改进的超级智能、拿所有人的生命赌博，并警告 AI 可能在十年内带来灭世风险，其帖子浏览量超 1.7 亿次。法国《鸭鸣报》评论称当前 AI 监管还不如烤面包机严格，事件也引发了对 AI doomers 与有效利他主义文化的讨论，另有作者用复利曲线反驳其灭世预测。