前Anthropic研究员Coxon公开辞职，警示超级智能生存风险

9月9日，27岁、曾在OpenAI与Anthropic先后从事三年预训练研究的Jacob Coxon在X上发帖宣布从Anthropic辞职，公开指控OpenAI与Anthropic「直冲自我改进的超级智能，拿我们的生命赌博」，并称两家公司都没有负责任行事。辞职帖获得约1.7亿次浏览，随后他接受ABC与BBC采访进一步阐述担忧；Anthropic对齐科学负责人Evan Hubinger表态认同「AI十年内灭绝人类概率超10%」，事件在多家头部AI公司内部与舆论场持续发酵，也引发对AI危险性为何在量级上超越以往技术的讨论。

已确认

• Coxon曾先后任职于OpenAI与Anthropic，从事AI模型预训练相关工作，9月9日发帖公开辞职并表达对AI风险的担忧；他是亲手训练模型的一线研究员，而非营销或高管人员。
• 接受ABC采访时，他将构建AI比作「召唤一个我们尚不完全理解的外星心智」，并表示即使没有具体场景，这种想法本身就相当可怕。
• 他认为AI可能是人类创造过的最危险技术，是一种无法像核武器那样被控制的超级武器，当前的竞赛正把人类引向灭绝。
• 在BBC专访中，Coxon称按当前进度若不减速，「我们极有可能在不久的将来全部死亡」并非夸张；他表示许多亲手编写前沿模型的内部人士每天背负着「人类灭亡概率超过10%」的判断，并称内部人员「真心为人类未来恐惧」。
• Anthropic对齐科学负责人Evan Hubinger对「AI十年内灭绝人类概率超10%」表示认同；此说法引来firstadopter等博主猛烈抨击，质疑这并非「可控风险」的表述方式。Andy Hall则在Substack长文《The Makers of our Fate》中阐述自己不认同「即将灭绝」的说法。
• 《纽约时报》记者Mike Isaac报道了AI公司内部正在滚雪球的超级智能风险讨论，称此事引发四大头部AI公司内部对末日风险的激辩。
• 有理论物理背景的作者（@AryHHAry转述视角）论证：AI的危险并非全新类型，但因其规模而在强度上跃升数个量级——以往危险技术都有物理瓶颈充当「减速带」（核武需要昂贵且可见的铀浓缩、生物恐怖需要BSL级实验室、化学武器依赖供应链），而信息没有质量，复制与扩散几乎没有物理约束。

尚未确认

• 「Anthropic高层回应时提及十年内AI毁灭人类的概率超过10%」一说目前主要来自转述帖（m10），原始出处与准确措辞未见一手材料；Hubinger表态的确切语境与原文亦未经一手信源核实。

为什么重要

• Coxon是亲手训练模型的内部人员，其公开离职使「实验室内部是否真正重视安全」的争议被推向公众视野，被视为大厂内部人员就失控风险发声的最新案例。
• 事件带动了关于自我改进超级智能竞赛与人类生存风险的讨论，多家头部AI公司内部亦就末日风险展开激辩；Hubinger等在职负责人的表态显示这种担忧并非仅限于离职者，同时也引发对「10%灭绝概率」表述是否等于承认风险不可控的质疑。
• 物理瓶颈视角为「为何AI风险不同于核武与生物武器」提供了通俗论证，被用作这场讨论的补充论据。

2026-09-13 ~ 2026-09-15 · 14 条相关

事件全程(共 6 集)→

• 第 1 集:前 Anthropic/OpenAI 研究员警告 AI 失控风险(2026-09-12,2 条)
• 第 2 集:前Anthropic研究员Coxon公开辞职，警示超级智能生存风险(2026-09-13,14 条)
• 第 3 集:《卫报》播客聚焦 AI 末日论：灭绝风险究竟几何(2026-09-14,2 条)
• 第 4 集:离职研究员AMA再批Anthropic:竞速逻辑是推卸责任(2026-09-16,3 条)
• 第 5 集:Anthropic 研究员 Coxon 高调辞职，警告行业拿人命赌博(2026-09-17,2 条)
• 第 6 集:Anthropic 工程师辞职吹哨，警告超级智能竞赛赌上人类性命(2026-09-19,3 条)

• 【源头】前 Anthropic 研究员离职帖引爆 1.7 亿浏览,Hubinger 表态 AI 十年内 10% 毁灭风险 — adamamcbride · 2026-09-13
• Anthropic 模型训练员 Jacob Coxon 离职，称 AI 是无法控制的最大危险技术 — victor_explore · 2026-09-13
• Anthropic 研究员 Evan Hubinger：十年内 AI 致人类灭绝概率超 10% — soumitrashukla9 · 2026-09-13
• 【源头】27 岁前 Anthropic 研究员辞职上 BBC：内部人员「真心为人类未来恐惧」 — rohanpaul_ai · 2026-09-14
• 前 OpenAI/Anthropic 研究员 BBC 专访：从业者普遍估灭亡概率超 10% — rohanpaul_ai · 2026-09-14
• Anthropic 研究员因 AI 风险公开离职,四大公司内部激辩末日风险 — RebeccaBellan · 2026-09-14
• 前 Anthropic 员工 Jacob Coxon 辞职，称造 AI 如「召唤外星物种」 — AlexTensor · 2026-09-14
• 前 OpenAI/Anthropic 研究员公开辞职:两巨头正豪赌超级智能 — vkrakovna · 2026-09-14
• Anthropic对齐负责人认同AI十年内灭绝人类概率超10%,引发圈内外抨击 — firstadopter · 2026-09-14
• Anthropic 研究员辞职警告:自我改进 AI 或威胁人类 — emmanuelvivier · 2026-09-14
• 理论物理视角：AI 危险性为何在量级上超越以往所有技术 — AryHHAry · 2026-09-15

另有 3 条近重复转述:kevinsurace · AryHHAry · Intelligent-Lynx-953