理论物理视角：AI 危险性为何在量级上超越以往所有技术

AryHHAry · x · 2026-09-15

一位理论物理背景的作者论证：AI 的危险并非全新类型，但因其规模而在强度上跃升数个量级。以往所有危险技术都有一个物理瓶颈充当"减速带"——核武需要昂贵且可见的铀浓缩、生物恐怖需要 BSL 级实验室、化学武器依赖供应链；而信息没有质量，同一份模型权重数小时内就能复制到百万张 GPU 上，能力不受守恒律约束。

帖子引用 OpenAI、Anthropic、Microsoft、AWS 等 100+ 企业 8 月 27 日的联名公开信，称组织只有几个月时间准备应对 AI 驱动的蜂群式网络攻击，医院、水处理、基础设施等首当其冲。作者还提到 Anthropic 核心研究员 Jacob Coxon 辞职，称内部真正造 AI 的人"真的相信它可能在这个十年末杀死所有人"，且高管在媒体上有意压低危险表述以免显得激进。