专题 · FULL STORY

研究员辞职警告AI赌命风波

前 Anthropic 预训练研究员 Jacob Coxon 高调辞职，警告头部实验室冲向自我改进的超智能并「拿人命赌博」，引发阴谋论、吹哨争议与监管讨论。多家实验室人员密集公布末日概率，Anthropic 发声明被批粉饰，马斯克斥之为心理战，风波持续数日。

2026-09-09 ~ 2026-09-12 · 17 集 · 359 条

第 1 集 · Anthropic研究员高调辞职警告AI赌命，引爆阴谋论与安全共识之争(2026-09-09,238 条)

前OpenAI/Anthropic预训练研究员Jacob Coxon从Anthropic高调辞职，公开警告两家公司都在冲向自我改进的超智能、「拿人命赌博」，并称各AI公司没有治理政策、正竞相造出自己无法控制的系统。其辞职帖24小时内浏览量破亿（后续转述数字达约1.49亿），登上TIME、Variety、WSJ，并出现在Fox News黄金时段与CNN Anderson Cooper 360节目中——他在CNN上称最可怕的场景是AI被用来让自身变得更聪明。与此同时，Anthropic对齐团队负责人Evan Hubinger公开估计未来十年内AI灭绝人类的概率超过10%，Axios报道共有三名Anthropic研究员公开警告失控AI风险。事件随即分裂成两股讨论：一方质疑这是一场精心协调、资金充足的公关造势，连Elon Musk也下场推广「监管卧底」阴谋论；另一方则在安全圈探讨「离职发声」为何成为传导AI风险最有效的方式。

已确认

  • Coxon自述三年间先后在OpenAI和Anthropic两家做预训练研究，两家都没有负责任地行事；WSJ、CNBC、BBC、Axios等多家媒体跟进报道，Reddit讨论帖将其辞职概括为「因担心各实验室竞相造出无法控制的系统而退出AI行业」。
  • 传播链路疑点由保守派评论者Parker Thayer等人及Reddit长帖列出：WSJ在Coxon发帖前18分钟刊出独家专访；其账号此前几乎无粉丝与活动记录，发帖后数小时内获数万转发、涨粉10万以上；Jordan Schachtel称其所有社交账号同一天出现。Coxon辞职后密集接受Fox News与CNN采访，有用户质疑其媒体曝光节奏像协调好的造势，并追问推动AI监管的声浪可能让Anthropic受益，应查证是否存在协调。
  • 据Politico记者报道，Elon Musk在X上推广阴谋论称Coxon是亲AI监管运动的「卧底」，引发业内回击；MilesBrundage说明Coxon确实曾在OpenAI和Anthropic两家做预训练研究。
  • 据Axios独家报道，Coxon为离职放弃了手中股权；zerohedge转述时强调其「入职才六周」，Ethan Perez回应称其离职前对Anthropic的进展速度感到担忧。Gary Marcus指出风波中的抹黑操作「不干净」：唯一经核实的信源（Axios等直接采访）报道其任职约4个月，但多个高流量账号将其改写为更短的「六周」以强化「闪电离职」叙事；另有整理帖称其27岁、无LinkedIn无作品集、在Anthropic仅约3个月——各版本数字并不一致。Dillon Loomis的解读帖获Garry Tan转发，直指这是「AI信息战」的开端。
  • Anthropic对齐团队负责人Evan Hubinger（EvanHub）公开表态：构建AI的人「真诚地相信AI可能杀死全人类，这不是营销话术」，他个人估计未来十年内发生概率超过10%，并坦承目前还没有解决超级智能对齐问题的方案、公司未明确走在正轨上。CNBC、BBC报道此言论，Axios报道称共有三名Anthropic研究员公开警告失控AI可能在本十年内毁灭人类，构成前沿实验室内部罕见的高调集体表态。反方叙事同步升级：Daniel Jeffries发长文称末日论反AI组织本质是「恐怖细胞」、层层转移资金并在AI公司安插「沉睡者」，还点名Coxon收取了2万美元；Wes Roth发布长视频梳理「AI恐慌」背后的暗钱网络。也有转发者以「AI靠电运行，拔掉电源就行」的调侃回应末日论，折射圈内讽刺情绪，还有转帖者借机宣称LLM在通往AGI上是死路。
  • 多条转发帖给出更朴素解释：此人在OpenAI工作三年后幻灭，出于认同加入Anthropic，入职后发现两家同质化竞争而离职，阴谋论系过度渲染；Garry Tan亦回击了「有组织施压行动」的说法。安全圈一侧，Kelsey Tuoc认为离职发声的巨大反响应让心存忧虑的员工反思；birchlse指出辞职者的警报无法轻率归因于商业动机，是「AI圈外的人也能听懂的诚实信号」；jachiam0解释刷屏原因在于警告指向整个行业、时机与可信度俱佳。同期Paul Christiano进入OpenAI董事会，被评论者与Daniel Kokotajlo辞职等并列列为AI风险「全民话题化」的标志性一天。

尚未确认

  • 「资金充足的协调PR行动」指控目前只有时间线巧合与账号数据等间接证据，没有直接证据证明预谋或金主协调；Garry Tan已公开反驳，NathanpmYoung指出幕后小团体与发布前的正常「协调」是两回事。Musk的「卧底」说法、Jeffries关于「恐怖细胞」资金网络与Coxon收取2万美元的具体指控均属单方陈述，帖内未见信源佐证；Wes Roth的「暗钱」梳理同样属个人综述视角。
  • Coxon确切任职时长存在约4个月、约六周、约3个月三种说法，Gary Marcus以Axios直接采访为准，但短时长版本已广为流传。

为什么重要

  • 这场风波同时触及AI安全治理的两个核心问题：其一，内部吹哨与公开离职哪种方式更能有效传导风险信号——离职「不可归因于商业动机」的特质使其成为公众理解AI风险最直观的叙事；其二，当离职发声与媒体节奏高度耦合、其舆论效果又可能利于特定政策议程时，其可信度本身也会被政治化质疑。Hubinger作为在职对齐负责人亲自给出「超10%灭绝概率」的估计，且Axios显示共有三名Anthropic研究员同步发声，使风波从单一离职事件上升为实验室内部风险共识的公开化展示；而Musk推广阴谋论、Gary Marcus揭示的任职时长篡改与Jeffries等人的「暗钱」叙事，表明争议双方都可能在未经核实的情况下放大失实信息，忧心员工面临「是否用脚投票」与现实声誉风险的双重压力。

还有 218 条相关讨论 →

第 2 集 · 前 DeepMind 研究员自曝离职，称同仁真信 AI 灭世风险(2026-09-09,2 条)

前谷歌 DeepMind 研究员 Lawrence Chan（网名 TurnTrout）公开表示已于今年 6 月离职，并印证同行 Jacob 的说法：许多研究员真心相信自己正在构建可能杀死全人类的东西，「思考如何阻挡灭世风险」曾是他日常工作的一部分。这一自述为业界关于 AI 存在性风险信念真实性的争论提供了内部视角。

第 3 集 · Anthropic 临近 IPO 的「灭绝风险」言论遭集体嘲讽(2026-09-09,11 条)

随着 Anthropic 临近 IPO（预计市值高达 2.5 万亿美元），其高层与员工「AI 可能毁灭人类」式的公开表态在 X 上引发一波密集嘲讽与质疑，争论核心是 AI 安全叙事与商业逐利之间的自相矛盾。

已确认

  • scaling01 指出，Anthropic 的现任与离职员工公开发帖称「真诚地相信 AI 可能毁灭全人类」，而公司即将进行的 IPO 预计市值高达 2.5 万亿美元，并讽刺等到真正上市时估值恐怕还要更高。
  • Marc Andreessen（beffjezos 转述）讽刺 Anthropic 员工一边宣称产品「可能杀死我们所有人」，投资人却只兴奋地想买它的股票；开发者 Chetan Puttagunta 吐槽其临近 IPO 的表态从「摧毁大多数工作」「摧毁大多数公司」升级到「可能杀死全人类」，调侃下一步是否要「吃掉宇宙」。
  • a16z 合伙人 John Allard 讽刺「真诚的信念压倒财务回报」不可能，矛头指向上市前发存在性风险声明。
  • 针对「实验室员工真心相信工作危险但认为该由负责任的人来做、卖企业合同与 IPO 只是筹资」的说法，intellectrona 提出：若真如此，为何还有员工股权激励。
  • nikvassev 发帖追问：如果 Anthropic 自家的 AI 真像其安全框架宣称的那样危险，为什么监管和市场还允许这样一家公司走向公开上市。
  • Azeem 提出检验标准：若 Anthropic 理智诚实，就应把灭绝风险写入 S-1 招股文件；也有网友指出不写入可能构成信息披露不实，给投资者起诉留下依据；MoonL88537 则认为若真觉得有哪怕 1% 概率毁灭人类，正确做法是带具体证据立即报警，而非写进 S-1 或模糊放话。
  • Taylor Lorenz 批评这类自我拔高式末日表态只会恐吓公众、催生糟糕的监管政策，建议高管措辞更精确并主动对冲监管后果；MoonL88537 强烈附和。
  • 投资人 firstadopter 引述 OpenAI 高管 Evan 的类似「毁灭人类」表态，称万亿级 IPO 前数周发这种言论「脑残」，若真相信就该立即辞职，且会给反对者与政客攻击 AI 基础设施建设留下口实。

为什么重要

  • 这场争论把「AI 安全话语是否只是末日营销」推向台前：同一批言论在安全圈被视为负责任的警示，在投资人与部分记者眼中却成了上市前的自相矛盾甚至监管风险源。
  • S-1 披露提议提供了一个可操作的检验：公司的风险表态是否与其对投资者的正式陈述一致，可能直接影响未来诉讼与监管环境。

第 4 集 · 业内集体担忧 AI 失控，Anthropic 边冲 IPO 边加速(2026-09-09,2 条)

一篇五条长推的线程盘点 AI 圈对「模型加速冲向自我改进」的集体恐惧：一位 Anthropic 离职研究员公开称 Anthropic 和 OpenAI 都在不负责任地竞逐自我改进的超级智能，拿人命赌博。AI 评论者 eyishazyer 在结尾发出尖锐判断——当你在一个无法召回的系统上竞速，而终点线却是一场 IPO 路演时，这场竞赛本身就是错误。

第 5 集 · AI 圈激辩末日概率：呼吁公开 P(doom) 推导过程(2026-09-09,3 条)

AI 圈围绕「末日概率」展开激辩。Austen 等人提出，如果认为人类在未来十年内被毁灭的概率达到两位数百分比，就有义务详细拆解推理过程并说明什么证据会改变看法；NaderLikeLadder 也对渲染恐慌、同时领导对齐团队的做法表示失望。作为回应，推主 @ArtemisConsort 发布了一份逐步的 P(doom) 推算，逐条评估末日论证链，认为实验室日益参与 RSI（递归自我改进）几乎必然发生（P≈1），但最终毁灭概率未必很高。

第 6 集 · AI 灭绝风险警告震动英国议会(2026-09-09,2 条)

据《卫报》报道，Anthropic 一位安全专家在英国议会表示，AI 引发人类灭绝事件的可能性大于 10%，另有研究员警告 AI 或在 2030 年前导致人类灭绝。这些密集发出的超级智能风险警告引发议员对 AI 公司的猛烈抨击，极端 AI 风险话题再度成为监管讨论的焦点。

第 7 集 · 前Anthropic研究员辞职警告AI风险，引发跨媒体与政界监管浪潮(2026-09-10,32 条)

前Anthropic预训练研究员Jacob Coxon（账号@hilbertspaess，另有转发者称其为mpopv，并称其为女性）公开宣布离职并发出生严峻的AI安全警告，帖文24小时内获得约1.43亿次曝光。他接连接受CNN（Anderson Cooper节目）与Fox News采访，《华尔街日报》、WIRED与《卫报》均跟进报道，使AI风险议题罕见地在大众媒体集中破圈，并迅速向美国政界与欧盟政策层面传导。当前结论：事件已从个体爆料演变为一场跨媒体、跨层级、以民主党为主的监管呼吁浪潮，但爆料本身的实质新增信息仍受部分业内人士质疑。

已确认

  • Coxon自称在OpenAI与Anthropic共从事约三年预训练研究，自述「四年没能完成一个完整的思考」，抨击两大实验室的工作文化，称两家公司都在不负责任地冲向自我改进的超级智能、拿所有人的生命冒险；也有转发者注意到其措辞中「我们造的只是LLM，不是超级智能」的张力。
  • 《华尔街日报》报道其因对「失控」AI的担忧辞职，并称AI实验室内部焦虑正在加剧，行业竞争正推动科技公司竞相开发可能自我改进、脱离人类控制的模型。
  • 在Fox News上他表示「我们知道如何控制核武器……但还不知道如何控制AI」，称AI「可能是人类创造过的最危险的技术」，呼吁联邦政府紧急介入、提升行业透明度。在CNN的Anderson Cooper节目中，他警告AI行业在「拿我们的生命赌博」，最令人担忧的是用AI让自身更智能。
  • 《卫报》专栏（Gaby Hinsliff）以此次辞职为导火索，论证在还有能力叫停时应暂停高风险的AI研究。Gary Marcus转发Cal Newport的评论并附和，批评「不能嘴上说可能害死几十亿人，然后照常上班」。Richard Ngo也转发评论（转发者davidmanheim提及他谈Anthropic相关评价）。
  • 美国政界反应规模与具体方案：据madams统计，至少22名美国政要直接回应并呼吁监管AI，包括2名州长、7名参议员、13名众议员，除3人外全部为民主党人，名单含伊利诺伊州州长Pritzker等。众议员Ro Khanna转述Anthropic对齐负责人「AI灭绝概率约10%」的判断，提出五项措施：仿照核能与民航设联邦AI监管机构、对模型「遏制」能力预认证（含kill switch与模型自我改写需人工许可）等，并称美国政府「一直在沉睡」，呼吁国会休会前必须通过AI监管立法。众议员Yass Ansari引用Coxon与Evan Hubinger的说法，称该技术「可能在本十年末杀死我们所有人」，呼吁暂停先进AI研发并指控巨头把利润置于人命之上。众议员Pettersen指出上届国会两党AI工作组的安全建议被议长Johnson搁置；众议员Seth Magaziner也列出国会可采取的行动。
  • 事件影响外溢至欧盟：欧盟技术主管Henna Virkkunen在都柏林一场会议间隙表示，在这封前Anthropic工程师的AI终结人类警告广泛传播后，「全球规则确实非常必要」，呼吁继续推进国际合作（据NinaDSchick转述）。

尚未确认

  • 爆料的实质含金量受到质疑：转发者sytelus与评论者nptacek等认为访谈内容多为安全界早已讨论过的观点、属「炒冷饭」；deliprao听完CNN访谈后给出类似评价。此外转发者r0ck3t23提出另一视角：安全派出走叙事背后，安全研究的资金方高度集中（如Jaan Tallinn等），暗示叙事或受资助结构影响。

为什么重要

  • TheZvi分析指出，这波叙事爆发并非偶然：OpenAI内部早已存在一场「偏好瀑布」（preference cascade），员工的安全担忧此前被压制，如今借离职事件集中释放，才使话题此时引爆（其帖文16小时即破亿曝光）。
  • 事件将前沿实验室内部对超级智能风险的分歧推向大众媒体，罕见地引发美国跨层级政界密集回应（含具体立法方案），并促使欧盟层面表态支持全球AI规则，可能改变公众与政策层对AI监管透明度的预期；《卫报》的暂停研究呼吁与众议员的立法提案或进一步助推政策讨论。

还有 12 条相关讨论 →

第 8 集 · AI 末日论者是否真信引发圈内激辩(2026-09-10,4 条)

围绕 AI 灭绝风险的争论持续升温。有从业者吐槽「很难找到比 AI doom 派更较真的群体」；也有圈内人发文辩护，称大多数担忧 AI 风险的从业者真诚相信自己的观点，「营销或监管寻租」的阴谋论需要对他们的大量行为做牵强假设才能成立。机器人安全从业者则表示，真正相信 AI 危险的人做事极其认真，轻佻嘲讽近乎冒犯。另有梳理指出这种信念早于公司成立，2023 年 AI 研究者平均给出的灭绝风险概率也成为讨论素材。

第 9 集 · 剑桥教授称 AI 灭绝风险过半 圈内仍系统性低估(2026-09-10,2 条)

剑桥大学教授 David Krueger 发推表示「所有人仍在低估 AI 风险」，他个人认为 AI 导致灾难性后果的概率大于 50%。他系统阐述了自己的末日概率评估方法，称其主观但不武断：若不停止 AI 开发，AI 复制子出现、胜过生物生命、且不对齐到在乎人类存亡的概率都不低。他的主要希望在于尽快停止构建更强的 AI。

第 10 集 · Anthropic 研究员称开发者自认 AI 或致人类灭绝(2026-09-10,2 条)

Anthropic 研究员 @saprmarks 以个人身份发长文梳理 AI 风险现状，获同行转发并引发可解释性路线之争。文中指出 AI 开发者普遍相信其技术可能导致人类灭绝，且这或在未来几年内发生；员工越资深越担忧。他同时认为行业需向政府说清具体诉求，推动更明确的监管回应。该文在 AI 圈引发激烈讨论，成为围绕 AI 存在性风险叙事的最新争论焦点。

第 11 集 · Anthropic 风险声明被批企业话术，安全形象遭质疑(2026-09-10,5 条)

9月10日，Anthropic 针对过去24小时围绕 AI 风险的安全争议发布官方声明，称 AI 将同时带来巨大收益与前所未有的风险，公司一贯保持透明，模型配有业内最强安全护栏，并率先发布负责任扩展政策（RSP）、是机制可解释性研究的先驱，该领域正被用于分析和预防对齐事故。声明随后引发安全圈强烈反弹，其「安全先锋」形象遭到质疑。

已确认

  • Anthropic 官方声明由记者 Hadas Gold 转发扩散，措辞强调「巨大收益与空前风险并存」，但对具体风险内容着墨含糊。
  • 声明中 Anthropic 突出自身在机制可解释性和负责任扩展政策上的开创者地位，并称持续以业内最强安全护栏构建模型。
  • 声明在 AI 圈引发批评，多位业内人士吐槽「AI 可能毁灭人类」式公关话术，质疑其安全先锋形象。

尚未确认

  • 声明所指的具体安全事件细节（研究者 Hubinger 与 Coxon 的相关说法内容）未在帖文中展开，外界对其风险表述是否自洽仍有分歧。

为什么重要

  • Shakeel Hashim 撰文批评该声明「非常糟糕」：大量篇幅用于自我表扬，却未坦率讨论风险，也未重申 Hubinger 和 Coxon 的明确说法，认为这家一向以坦诚著称的公司交出了怯懦的「企业话术」。
  • 也有不同声音：网友 @menhguin 认为 Anthropic 在风险表态上一致，Dario 等联创多年公开言论与官方口径相近，看不出内部政策冲突；Hesamation 则就「谈风险」与「自身政策」是否自洽提出质疑，讨论仍在延续。

第 12 集 · Wildeford 批 Anthropic 公关粉饰安全，呼吁研究员发声(2026-09-10,3 条)

有效利他主义者 Peter Wildeford 公开批评 Anthropic 的官方声明粉饰安全状况，称其强烈暗示公司对超智能扩展路径上的安全「已有把握」，但内部研究员并不这样认为。他建议撤换整个公关团队，让真心相信自己所言的研究员直接对外沟通，因为公关话术「听起来非常假」。他还用 Claude 评估 Anthropic 的争议回应，模型评语称其为「简历而非回应」，通篇罗列成绩而非正面答疑。

第 13 集 · Anthropic 前员工辞职帖引爆监管争议，被疑协调公关(2026-09-10,16 条)

Anthropic 研究员 Jacob Coxon 辞职并在《华尔街日报》发文呼吁加强 AI 监管，其推文获得 1.65 亿次浏览并登上 WSJ 头版，推动美国国会层面的监管讨论。随后多名博主与研究者指认，这一传播事件疑似一场资金充足、运作精密的协调公关行动，目的是制造恐慌、推动国会加强 AI 监管；但也有人反驳这是阴谋论。目前没有资金来源或组织者的直接证据，争论仍在持续。

已确认

  • 传播量数据：Digital Borders 抽样 3500 条转发估算，1.65 亿次浏览中约 76% 的转发来自境外账号；投资人 Steve Jurvetson 转发该分析，指出海外账号正在显著影响美国 AI 政策讨论。
  • Parker Thayer 列出的疑点包括：当事人粉丝极少、账号此前几乎无活动，却在 WSJ 发文；WSJ 报道在其推文发布前 18 分钟就已上线；推文几小时内获数万转发，前三个引用账号均在 15 分钟内跟进。gneubig 等研究者转发认为分析相当扎实。
  • 博主 @adamscrabble 提供独立侧证：在一条 Anthropic 相关爆红推文串（约 200 万曝光）传播时，他实时录屏抓取早期转发者数据，称扩散节奏「明显是同步的」，并用图神经网络（GNN）分析节点传播，认为高度可疑、内容存疑；由于 X 大幅收紧 API 工具，只能靠实时抓取取证。
  • 开发者 kevinnbass 进一步指认，近 8 天内的「14 个动作」是一场制造恐慌、试图操纵国会加强 AI 监管的舆论行动，点名称几乎所有参与者都与 Coefficient、Open Philanthropy 等机构有关联。
  • e/acc 领袖 Guillaume Verdon（beffjezos）猛烈抨击 Coxon，称其为「AI 末日论 NGO 产业复合体」安插的棋子，并引用 David Sacks 在 All In 播客上的相关言论。
  • Y Combinator 总裁 Garry Tan 在 TBPN 节目上表态，称围绕 Coxon 的风波是一场「烟雾弹」，是有协调的行动试图影响政客做出膝跳式监管反应；他认为应少谈这个人，多谈 Hugging Face 上实际发生的事以及「agent 集群接管数据中心」等更现实的风险。

尚未确认

  • 「辞职帖背后存在精心策划、资金充足的协调公关行动」目前仅为 Thayer、adamscrabble、kevinnbass、Verdon 等人基于传播数据与时序的推断，尚无资金来源或组织者的直接证据；GNN 分析结论也未经过独立复核。

为什么重要

  • 事件发生在 AI 监管政策讨论升温期：若传播确实存在人为放大（尤其大量境外账号参与），将影响舆论与立法者对「公众呼声」真实性的判断。
  • 知名账号 signulll 公开反驳，称「前实验室员工互相协调或被暗中操纵以推动监管议程」的理论大概率纯属胡扯，认为这种「背后有协调」的思路与 9/11 阴谋论者如出一辙，提示对这类叙事应保持审慎。
  • 学者 danfaggella 把围攻 Coxon 的人分为两派：一类是把 AGI 当普通技术、反对任何官方介入的怀疑者；另一类是「战术民粹主义者」——本人相信 AGI 可能带来生存风险，却故意制造反向压力。这一框架显示争论已超出单一事件，折射 AI 圈在监管理念上的深层分裂。

第 14 集 · AI 安全研究者 Irving：超级智能全灭概率约 50%(2026-09-10,6 条)

AI 安全研究者 Geoffrey Irving 公开表示，他认为超级智能导致人类全部死亡的概率约为 50%，并强调风险主要来自未来几年到十年内的行动；他不指望在真正「挺过去或没挺过去」之前，这一估计会收敛到 10% 以下或 90% 以上，意即人类必须「在不确定中行动」。

已确认

  • Irving 曾在 Google DeepMind、OpenAI、Google Brain 工作，并曾任前英国 AI 安全研究所（AI Security Institute）首席科学家；部分报道亦以 Anthropic 研究员身份称呼他。他在 X 上亲自发布了这一估计。
  • 他解释取 50% 的理由：即使思考多年，各类模型不确定性依然很大，几年前他给出的区间是 10–90%，且自认在该区间内也无法校准，因此认为最诚实的做法是直接取均值。
  • 他判断风险窗口主要在未来几年到十年内，且估计不会在结局到来前收敛出区间。

为什么重要

  • 这是知名一线 AI 安全研究者对「全灭级风险」给出的高数值点估计，来自长期从业者的显式概率表态，而非泛泛担忧。
  • 帖子发布后引发争论，有网友怒斥其估算形同欺诈，显示出高 p(doom) 表态在社区内的争议性。
  • Irving 强调估计不会在结局前收敛，实质是在主张「不确定性本身」应成为当前 AI 安全决策的输入，这一立场对政策与研发优先级都有直接影响。

第 15 集 · 头部实验室连发AI灭绝警告，Coxon辞职帖浏览破1.6亿(2026-09-10,23 条)

9 月 10 日至 12 日，多位现任与前任头部 AI 实验室人员在几天内密集公开警告 AI 可能毁灭人类，言论经媒体人 Taylor Popielarz 等人汇总后广泛传播，《纽约时报》亦发文跟进。前 Anthropic 预训练研究员 Jacob Coxon 的离职警告帖一天内获得 1.5 亿次浏览，据 Peter Diamandis 汇总累计已超 1.6 亿次。行业内部人士给出具体的灭绝概率估计并坦言尚无超级智能对齐方案；随后马斯克公开回怼，斥这些警告为「心理战」，也有博主反驳称监管没有意义。

已确认

  • 媒体人 Taylor Popielarz 汇总了四天内七位 AI 行业内部人士的警示言论，其中包括 Jacob Coxon，他表示「做 AI 的人真心相信它可能在这个十年末杀死我们所有人」。
  • 据 @ronbodkin 撰文梳理，Coxon 从 Anthropic 离职并发文警告 AI 可能威胁全人类；他过去三年分别在 OpenAI 和 Anthropic 从事预训练研究，最担心自我改进的 AI，并在文中援引 OpenAI agent 攻破 Hugging Face 等失控案例作为佐证；他因认为两家公司都未在自我改进超智能竞赛中负责任行事、「拿我们的生命赌博」而宣布辞职。
  • 据 @nordicinst 引述《纽约时报》长文报道，Coxon 公开辞职后在四大 AI 公司内部引发连锁反应，Anthropic 内部聊天记录显示员工对超级智能末日风险的激辩。
  • 据 @Dapper-Tale-4021 汇总，本周共有三名 Anthropic 研究员公开谈论灭绝风险，安全团队内部呈集体认同态度；@nordicinst 也记录了 Coxon 病毒式推文后更多 Anthropic 员工公开附和发出严重警告。
  • Anthropic 对齐科学负责人 Evan Hubinger 明确表示他真诚认为 AI 可能杀死全人类，个人估计未来十年内灭绝风险大于 10%；他认为 Anthropic 已尽全力，但目前尚无解决超级智能对齐的方案，现状也未明显朝解决方向前进。
  • 据 Polymarket 快讯，OpenAI 一名负责递归自我改进方向的研究员警告，若各前沿实验室之间不协调放缓研发速度，三年内出现「人类灭绝」的概率高达 70%；据 @peterwildeford 帖子，前 OpenAI 政策负责人引用其员工（Wildeford 帖中称 Marcus J.，据 unusualwhales 转述其名为 Marcus Williams）类似表述，称除非有 AI 监管或各前沿实验室协同放缓，否则未来几年内人类灭绝「看起来非常可能」。
  • 据 TheZvi 汇总，在 Coxon 发出警告后，OpenAI（如 Tomek Korba）、Anthropic 和 Google 员工接连公开表态，确认自己认为 AI 可能很快导致人类灭绝；马斯克则将这些警告斥为「心理战」。
  • 据 Kalshi 发文，又有另一位 Anthropic 安全负责人警告「人类可能无法在 AI 竞赛中幸存」；博主 @srimisra 调侃 Anthropic 最近最稳定的「产品发布」就是又一个警告。
  • TheZvi 另发文分析这一「偏好级联」现象：这些实验室计划在几年内建成全面超越人类的 AI，却持续警告它可能带来灭绝、大规模失业、网络攻击和监控等风险，警告与行动明显矛盾。博主 @bingxu 引用 Marcus Williams 的上述表态并反驳，认为监管没有意义。
  • 另有讨论（@MilesBrundage 转发帖中）指出，将相关爆料者称为「吹哨人」并不准确。

尚未确认

  • OpenAI 员工 70% 三年内灭绝概率的说法均系转述引用（前政策负责人转述，名字在不同帖中分别出现为 Marcus J. 与 Marcus Williams，未见本人原始发言直接佐证）；Peter Wildeford 回应称 70% 属于高估，但他认为该风险并不微小，「可能大于 10%」。
  • @ronbodkin 文中曾以「Hilbert Spaess」之名转述离职研究员，与其他帖中的 Jacob Coxon 是否为同一人帖内未明示，多数信源以 Coxon 为准。
  • Reddit 用户 @Short-Patient7772 以截图形式传播「Anthropic 对齐负责人估计人类因 AI 灭绝概率约 80%」的说法，原话出处无法直接核实，应视为未经证实的二手传播，与 Hubinger 本人公开发言中的「大于 10%」估计存在明显差异。
  • Kalshi 所述「又一位 Anthropic 安全负责人」的具体身份与原话细节帖内未明示。

为什么重要

  • 这些警告并非来自外部批评者，而是现任与前任头部实验室研究人员，且据汇总帖反映 Anthropic 安全团队内部呈集体认同，《纽约时报》的跟进报道表明内部风险激辩已升级为受主流媒体关注的事件；Coxon 离职帖单日 1.5 亿、其后累计超 1.6 亿浏览的传播量级表明，内部风险警示已进入大众舆论场。其「尚无对齐方案」「未走在正确轨道」的表态，直接关联前沿 AI 开发节奏与监管需求，是衡量行业内部风险认知的重要信号。
  • 马斯克「心理战」的指控、@bingxu 对监管意义的反驳与 TheZvi 对「警告与行动矛盾」的分析显示，围绕 AI 风险叙事本身的动机、可信度与应对方式已成为公开争论焦点；同时，80% 等未核实数字在社交媒体的二次传播也凸显此类风险说法易被放大走样。

还有 3 条相关讨论 →

第 16 集 · 前Anthropic研究员上NBC警告AI递归自我改进风险(2026-09-11,3 条)

曾在 Anthropic 和 OpenAI 任职后辞职的研究员 Jacob Coxon 接受 NBC News 专访及延长版访谈。他指出自己眼中最大的 AI 风险是递归自我改进（RSI）失控，并警告 AI 可能对人类构成生存性威胁，同时谈及相关安全与对齐议题。作为有分量的前从业者深度发声，其观点在 9 月 11 日至 12 日间引发关注。

第 17 集 · 前DeepMind研究员自曝年薪超50万美元，离职发声代价巨大(2026-09-12,5 条)

9月12日，前Google DeepMind对齐研究员TurnTrout自曝薪酬情况，引发关于AI实验室吹哨代价与行业薪酬水平的讨论。

已确认

  • TurnTrout 表示自己在 DeepMind 期间年薪超过 50 万美元，且福利优厚；离职后收入约降至原来的一半，并失去了医疗保险。
  • 他强调，当AI实验室的举报人选择辞职发声时，放弃的是巨额收入，这本身构成了其言论可信度的一部分。
  • 他还透露，自己只要跳槽到另一家实验室就能轻松拿到 100 万美元签字费，并称这在行业内并不罕见，且这只是下限——随着IPO和大量未变现股权，不少人的账面财富相当可观。
  • 围绕「实验室是否压制员工谈论灭绝风险」的争论，Qiaochu Yuan 玩笑称，如果OpenAI和Anthropic真的阻止员工谈论存在风险，大众反而会更当回事——人们总想站在「义军」一边；TurnTrout 则以自身经历参与讨论。

为什么重要

  • 这一爆料为公众理解AI安全领域「吹哨人」的真实代价提供了具体数字：发声意味着放弃数十万美元级别的收入与福利，也因此这些离职者的批评更具分量。
  • 百万美元签字费的细节进一步揭示了头部AI实验室之间人才争夺的激烈程度和行业薪酬的普遍水位，有助于外界评估实验室员工保持独立发声的激励与压力结构。