安全研究者呼吁： scrutinize「10% 灭绝概率」背后的理论根基

sebkrier · x · 2026-09-09

sebkrier 提出一个观点：人们应当更主动地质询和审视支撑「人类有 10% 概率全员死亡」这类 p(doom) 说法的底层假设——包括对智能本质的理解、权力如何运作、工具趋同（instrumental convergence）、Omohundro 驱动、模型适用演化论等核心信念。

他感到困惑的是，几乎没有人认真把这些核心信念写得足够清晰、开放给更广泛的科学审视。他批评目前的大众化写作（包括 IABIED）要么是把读者当傻瓜、喂基本类比和隐喻的说服性文章，要么偏向倡导和圈层建设，而非可检验的科学论述。