脆弱世界假说或成立：认知劳动爆发将解锁廉价毁灭性武器

deanwball · x · 2026-10-05

被引用的原帖提出 AI 安全中的一个重大担忧：脆弱世界假说很可能成立。一旦海量认知劳动被投入到基础科学研究中，很快就会暴露出大量制造廉价、超毁灭性武器技术的途径。作者认为，由于加固所有潜在攻击途径过于昂贵且耗时，若不采取全球性预防性治理（如 AI 不扩散机制），这个问题无法解决。

Dean Ball 补充称，一位资深 AI 行业人物曾直接问他「在什么情况下我们基本上就完了」，他的回答正是上述场景——认知型 AI 大幅降低危险科技的获取门槛，使全球管控成为唯一可行手段。