网友用贝叶斯式连乘算出 P(doom)=21%
Crayola_God · reddit · 2026-10-20
Reddit 用户分享一张推文截图:@uppingmydooms 给出自己的末日概率推演:1) RSI(递归自我改进)会发生,80%;2) RSI 造出 ASI,45%;3) ASI 无法对齐,95%;4) ASI 无法控制,60%;连乘 0.80×0.45×0.95×0.60=0.21,即 21% 的毁灭概率。这种把每一步假设显式列出再相乘的算法在 X 上引发转发讨论,评论区在征集各自的 P(doom)。
所属事件:网友贝叶斯连乘推演 P(doom)=21% 引 Reddit 热议(2 条相关)→
「漫话AGI」频道最新
- 网友批评 Nature 意识社论:理论刻意排除机器,论证薄弱 — cephaloform · 2026-10-20
- World Mechanics 联创质疑「自改进 LLM 能搞定物理 AI」 — soniajoseph_ · 2026-10-20
- 律所买遍 AI 工具却没人在学哪款适合哪种活 — jkubicki · 2026-10-20
- 《奇点灰烬2》定档11月10日，2016 年前作 AI 世界观预言惊人应验 — draginol · 2026-10-20
- 研究者:科幻叙事让人误以为人类总能在 AGI 面前「找到办法」 — danfaggella · 2026-10-20
- 前 AI 安全研究所研究员转向对齐研究，加入 Irving 创办的 Resolution — geoffreyirving · 2026-10-20