Anthropic对齐负责人自估AI灭世风险超10%，研究员同日辞职

9月9日，Anthropic内部围绕AI生存风险的两条消息同时引爆讨论：对齐科学团队负责人Evan Hubinger公开量化了自己对灭绝风险的估计，而一位预训练研究员宣布辞职并抨击前沿实验室的竞赛节奏。两者叠加，再次暴露出前沿AI实验室「边造边警告」的深层张力。

已确认

• Evan Hubinger（Anthropic对齐科学负责人）公开表示，构建AI的人「真诚地相信」AI可能在本十年末之前杀死全人类，这不是营销话术；他个人估计未来十年内发生概率超过10%。
• Hubinger承认Anthropic正在尽力降低风险，但坦承目前还没有解决超级智能对齐问题的方案，也没有明确的实现路径，并警告公司并未走上正轨。
• 研究员Jacob Coxon（@hilbertspaess）当天宣布从Anthropic辞职。他过去三年先后在OpenAI和Anthropic从事预训练研究，声明中批评两家公司都没有负责任地行事，正「直冲自我改进的超级智能，拿我们的生命做赌注」。
• 该事件获Forbes、CNBC、WSJ等多家媒体报道；X上Taylor Lorenz等人对AI末日论的批评与Hubinger的量化表态形成交锋，Reddit热帖亦引发关于AI风险真实信念与末日论的大范围讨论。

尚未确认

• Polymarket账号称Coxon警告超级智能「可能在本十年末杀死我们所有人」，系快讯转述，暂无其本人长文直接佐证。

为什么重要

这是前沿实验室核心人物对灭绝性风险的罕见量化表态，与同日安全派研究员的公开出走相互印证，显示Anthropic内部对AGI竞赛节奏与安全承诺存在真实分歧，也再次点燃了外界关于「实验室是否言行不一」的争论。

2026-09-09 ~ 2026-09-09 · 70 条相关

• WSJ：Anthropic 研究员因担心 AGI 失控退出 AI 行业 — peterwildeford · 2026-09-09
• 前 OpenAI/Anthropic 预训练研究员辞职：两家在拿命赌超级智能 — peterwildeford · 2026-09-09
• 因不愿参与自我改进 AI 竞赛,业内人士公开辞职 — Miles_Brundage · 2026-09-09
• Anthropic 研究员 Jacob Coxon 宣布退出 AI:恐 2027 年自我改进失控 — rohanpaul_ai · 2026-09-09
• Anthropic 研究员 Jacob Coxon 宣布退出 AI:恐 2027 年自我改进失控 — rohanpaul_ai · 2026-09-09
• Anthropic研究员因AI失控担忧辞职，WSJ报道 — Bubbly-Air7302 · 2026-09-09
• Anthropic 研究员 Jacob Coxon 辞职，警告超级智能十年内或致人类灭绝 — Polymarket · 2026-09-09
• 【源头】Anthropic 研究员:十年内 AI 灭绝人类概率超 10%,对齐尚无方案 — EvanHub · 2026-09-09
• Anthropic 研究员 Jacob 辞职引热议:带薪离场算不算安全立场 — ctjlewis · 2026-09-09
• Anthropic 高层被指:十年内 AI 灭人类概率约等于喷气机队进季后赛 — gottapatchemall · 2026-09-09
• 「造 AI 的人真相信它能在十年内毁灭人类」引热议 — Puzzled-Ad-6854 · 2026-09-09
• Anthropic 员工宣布辞职：称目睹 AI 或将毁灭人类 — AIandDesign · 2026-09-09
• OpenAI/Anthropic 前员工辞职，1386 名员工联署呼吁为前沿 AI 降速 — EvanHub · 2026-09-09

另有 37 条近重复转述:Miles_Brundage · peterwildeford · AGI Hunt · AICopyLab · Miles_Brundage · EvanHub · ramagetime · ccerrato147 · JosephJacks_ · AccBalanced · Polymarket · kevinnbass · AndyMasley · EvanHub · JeffLadish · sjgadler · JeffLadish · sahilypatel · sjgadler · SydSteyerhart · ctjlewis · birchlse · sjgadler · iamfakhrealam · builderjaydub · SIGKITTEN · builderjaydub · Delahuntagram · austinc3301 · austinc3301 · AGI Hunt · Tough_Control2052 · tomchapin · WonderFactory · rkulidzan · 新智元 · JFPuget