Reddit 网友拆解 P(doom)：四步概率相乘算出 17% 毁灭风险
Crayola_God · reddit · 2026-10-20
一位 Reddit 用户分享了自己估算「10 年内末日概率」的框架，将末日分解为四个条件概率逐步相乘：
- RSI（递归自我改进）发生：80%，理由是 OpenAI 已声称正在推进；
- RSI 造出 ASI：40%，可能受限于架构、算力或智能天花板；
- ASI 无法对齐：95%，因为 ASI 比人类聪明，人类无法理解如何对齐它；
- ASI 无法控制：55%，作者认为断电甚至炸掉数据中心总能兜底，所以给了个中间值。
四项相乘得到 P(doom) ≈ 16.7%。作者强调这些只是猜测，邀请社区讨论各自估算。帖子反映了 AI 风险讨论中常见的「概率链拆解」式民间推演思路。
所属事件:Reddit 网友用概率连乘估算 AI 末日风险引热议(3 条相关)→
「漫话AGI」频道最新
- 历史上卡车取代马车的启示：自动化伤害最小的路径是新人不进场 — soumitrashukla9 · 2026-10-23
- 研究者反驳「AI 网络安全恐慌」：卖防御先造焦虑是老剧本 — gerardsans · 2026-10-23
- Nina Schick：算力不足本身就是巨大的网络与整体安全风险 — NinaDSchick · 2026-10-23
- 投资人观点：AI 若是泡沫，也是最「分裂」的一个 — robleclerc · 2026-10-23
- Chamath：银行将率先用服务条款封杀 AI Agent — nicolechirps · 2026-10-23
- AI 研究者：Claude 替我完成了多年前放弃的繁琐研究任务 — MikePFrank · 2026-10-23