AI 圈激辩末日概率：呼吁公开 P(doom) 推导过程
AI 圈围绕「末日概率」展开激辩。Austen 等人提出，如果认为人类在未来十年内被毁灭的概率达到两位数百分比，就有义务详细拆解推理过程并说明什么证据会改变看法；NaderLikeLadder 也对渲染恐慌、同时领导对齐团队的做法表示失望。作为回应，推主 @ArtemisConsort 发布了一份逐步的 P(doom) 推算，逐条评估末日论证链，认为实验室日益参与 RSI（递归自我改进）几乎必然发生（P≈1），但最终毁灭概率未必很高。
2026-09-09 ~ 2026-09-11 · 3 条相关
- 第 1 集:Anthropic研究员高调辞职警告AI赌命，引爆阴谋论与安全共识之争(2026-09-09,238 条)
- 第 2 集:前 DeepMind 研究员自曝离职，称同仁真信 AI 灭世风险(2026-09-09,2 条)
- 第 3 集:Anthropic 临近 IPO 的「灭绝风险」言论遭集体嘲讽(2026-09-09,11 条)
- 第 4 集:业内集体担忧 AI 失控，Anthropic 边冲 IPO 边加速(2026-09-09,2 条)
- 第 5 集:AI 圈激辩末日概率：呼吁公开 P(doom) 推导过程(2026-09-09,3 条)
- 第 6 集:AI 灭绝风险警告震动英国议会(2026-09-09,2 条)
- 第 7 集:前Anthropic研究员辞职警告AI风险，引发跨媒体与政界监管浪潮(2026-09-10,32 条)
- 第 8 集:AI 末日论者是否真信引发圈内激辩(2026-09-10,4 条)
- 第 9 集:剑桥教授称 AI 灭绝风险过半 圈内仍系统性低估(2026-09-10,2 条)
- 第 10 集:Anthropic 研究员称开发者自认 AI 或致人类灭绝(2026-09-10,2 条)
- 第 11 集:Anthropic 风险声明被批企业话术，安全形象遭质疑(2026-09-10,5 条)
- 第 12 集:Wildeford 批 Anthropic 公关粉饰安全，呼吁研究员发声(2026-09-10,3 条)
- 第 13 集:Anthropic 前员工辞职帖引爆监管争议，被疑协调公关(2026-09-10,16 条)
- 第 14 集:AI 安全研究者 Irving：超级智能全灭概率约 50%(2026-09-10,6 条)
- 第 15 集:头部实验室连发AI灭绝警告，Coxon辞职帖浏览破1.6亿(2026-09-10,23 条)
- 第 16 集:前Anthropic研究员上NBC警告AI递归自我改进风险(2026-09-11,3 条)
- 第 17 集:前DeepMind研究员自曝年薪超50万美元，离职发声代价巨大(2026-09-12,5 条)
- 灭世概率超 10% 却还在领导对齐团队？AI 圈激辩末日论调 — mertdumenci · 2026-09-09
- 别只喊末日概率，请把推导过程摊开来讲 — Dan_Jeffries1 · 2026-09-11
- 逐条给 P(doom) 打分:RSI 必然发生,但毁灭概率未必高 — SydSteyerhart · 2026-09-11