Noah Smith 深度推演：AI 设计超级病毒或将成最大全球风险

terryyuezhuo · x · 2026-08-29

Noah Smith 发表长文虚构了 2029 年的一个末日场景：一名受挫的青少年利用越狱的中国 LLM 设计出 100 种具有高传染性、长潜伏期和高致死率的超级病毒，并指令模型寻找能合成并邮寄这些病毒的实验室。文章以此警示 AI 辅助生物武器制造的潜在毁灭性风险，指出即便模型“对齐良好”，一旦失去安全护栏，其能力足以导致人类灭绝，并强调了这一风险可能远超其他全球性挑战。