专题 · FULL STORY

AI造病毒灭世论之争：科学家下场激辩

一位兼具LLM训练与病毒合成背景的研究者连发多帖，反驳「AI可制造危险病毒灭世」的恐慌论调，称瓶颈在物理合成。随后各方就攻防不对称、模型降低研究门槛等展开激辩，斯坦福教授与Jeff Clune相继下场回应。

2026-09-14 ~ 2026-09-17 · 5 集 · 42 条

第 1 集 · 双栖专家驳斥AI病毒灭世论：瓶颈在物理合成(2026-09-14,26 条)

9月14日起，自称「既训练过前沿 LLM、又在实验室亲手设计并合成过定制病毒」的 @DavidRBellamy 连发多帖，系统反驳「AI 制造危险病毒毁灭人类」的末日论，引发一场罕见的由双栖背景从业者主导的公开辩论，并延伸出「生物学界究竟怎么看 AI 生物风险」的讨论。当前共识分歧明显：正方认为物理合成与供应链才是瓶颈、AI 的边际增量有限；反方指出筛查机制不完善与合成成本骤降。

已确认

  • @DavidRBellamy 的核心论点：LLM 确实能提出可合成、具感染性的病毒基因组，但这往往只是已知基因组的复制或微调，并非真正瓶颈；瓶颈在病毒的物理合成过程及所需设备与物资。
  • 设计能躲避一切大流行防御手段的病毒，不是「数据中心里的天才」能完成的，需要与物理世界反复接触、实验迭代。
  • 供应链关卡：DNA 合成公司对所合成的病毒序列设有安全审查；假设实验室用自有设备内部合成基因组，同样不现实。
  • 他主动做 steelman 推演：设想一座全自动病毒合成实验室（自动冷冻柜、自动细胞培养间等），造价将远超 1 亿美元，且不存在能合成一切病毒的单一实验室；即便假设该实验室能完全通过 API 自主运行，人们也该反问「这种实验室为何要存在」。他强调今天不可能有这样的设施——那将是全球自动化与 API 集成最先进的实验室，并以他本人曾参与建设全自动、API 驱动实验室的经历佐证。他同时感慨兼具这两种经历的人可能全世界只有他一个，因而对生物风险话题拥有罕见的双重视角。
  • 转发链条中出现补充论证：研究员 SGRodriques 与 DavidRBellamy 一道主张，不应把 AI 工程化生物武器当成世界末日，医学上的收益将远大于工程化生物武器的下行风险，核心论据是进化压力——工程化病毒在传播上面临天然约束。
  • 业界转发附议：Ginkgo 自动化生物实验室运营者 @jrkelly 表示赞同；@DanJeffries1 强调其双栖视角；@PMinervini 转发中 Tim Dettmers 补充称生物风险被专家圈共识性低估；a16z 合伙人 martincasado 转发称赞此文；@nptacek、@jeremyphoward、@kuza55、@dhadfieldmenell、@robleclerc、@ccerrato147、@alexvoica 等也参与转发，Scott Alexander 亦被提及转述相关内容，Reddit 上亦有热帖转述讨论。
  • 前 Google DeepMind 研究员 Anselm Levskaya（二十年合成生物经验，做过 DNA 合成仪、测序仪、细胞工程、病毒设计，自 2018 年起在 GDM 做 transfer 学习，三十多岁从生物学转向 AI 并参与 Transformers 重要论文）转发称「AI 生物风险大流行论是外行胡扯」，并具体补充：即便用 AI 生成一批 DNA 序列，仍需自行组装，距「单发设计出致命病毒」还很远。拥有生物学与 AI 双博士学位的学者也认为从纸上设计到真实制造隔着巨大鸿沟。
  • The Turing Post 转引 David Bellamy 与 ntilmans 的相关讨论，指出结论的反直觉之处：病毒工程的风险本身是真实的，但逐条分析后，AI 对这一风险总量的边际增量没有想象中大。
  • 围绕「生物学界立场」的后续讨论：@ramez 提出疑问，自己认识或看到发言的大多数生物学家认为 AI 工程化病原体确有风险但不太可能是灾难性风险；而 @davidmanheim 回复指出反例——哈佛出身的系统生物学家 Roger Brent 公开认为 AI 工程化病原体风险被严重低估；他还补充 Kevin Esvelt 显然属于认为 AI 生物风险很高的阵营，George Church 立场更温和但签署了 2025 年 AIxBio 声明，David Relman 同样签署且非常担忧。

尚未确认

  • 转发者 taoburr 反驳称：DNA 合成公司并非都有筛查机制，只要找到一家不筛订单的公司就能拿到所需 DNA。
  • @anshulkundaje 转发的批评观点指出：以「造价 1 亿美元的完全自主病毒工程设施」论证风险可控，是「伪 steelman 实为 strawman」；现实中不需要这种设施，如今在大学实验室合成复杂痘病毒的成本已低至 10 万美元以内。

为什么重要

  • 这是罕见的一场由「双栖背景」从业者主导的 AI 生物风险辩论：正方以物理合成与供应链为瓶颈、并以「收益大于风险」的进化压力论证风险有限，反方以筛查机制不完善和合成成本骤降反驳。双方分歧点在威胁模型假设（是否需要全自动设施 vs. 现有大学级实验室能力），对 AI 安全与生物安全政策讨论均有参考价值。
  • 后续「生物学家怎么看」的交锋显示，生物学界对 AI 生物武器风险并非铁板一块：多数声音认为风险被高估，但 Brent、Esvelt、Relman 等具名学者持高度担忧立场，并已通过联名声明等形式表达，这为 AI 安全圈与生物学界之间的认知落差提供了具体注脚。

还有 6 条相关讨论 →

第 2 集 · AI 设计病毒风险引激辩：首试即成还是防御同样容易(2026-09-14,2 条)

一场关于 AI 生物安全的争论在网上发酵。一方警告称，虽然现实世界中尚未有 AI 设计出有效实物，但 AI 可能在首次尝试时就成功设计出新型病毒，且这种能力不对称地利于恶意行为者。反驳者则指出这类讨论忽略了免疫系统的作用，且如今针对病毒开发药物与疫苗已相对容易——历史上曾有 3 天出疫苗的先例，若 AI 能造超级病毒，另一 AI 也能快速防御。

第 3 集 · AI 生物安全激辩:模型预测实验能力或降低病毒研究门槛(2026-09-14,2 条)

围绕 AI 生物安全风险的讨论持续发酵。有发帖人认为,虽然建造病毒研究实验室昂贵耗时,但鉴于其价值几乎必然会被建成,且可在细胞培养等体系上并行测试多种病毒;她进一步指出 AI 模型很可能比人类更擅长预测实验结果,从而减少所需实验次数。这一观点引发网友激辩,有人反驳称模型预测实验结果更强、可并行筛选病毒,但承认实现尚需时间,原作者也回应称该论证在其排序之中。

第 4 集 · AI 生物武器风险之争：一线经验对阵公众叙事(2026-09-15,10 条)

9 月中旬，围绕「AI 是否会助长生物武器风险」的争论在学界与 AI 社区持续发酵。以病毒学者 Angie Rasmussen 为代表的一方认为「AI 生物武器风险」被严重夸大，甚至指控 AI 圈渲染虚构威胁是为了规避监管；斯坦福教授、基因组学研究者 Anshul Kundaje 则在接触前沿实验室一线团队后公开表示印象改变，认为这类风险比外界想象的更受重视。当前讨论的核心分歧在于：判断应基于一线合作经验，还是公开叙事与直觉。

已确认

  • Kundaje 明确表示，与前沿实验室中实际和病毒学家合作评估生物风险场景的团队交流后，其此前印象已发生改变，并称 DNA 合成公司对相关风险的态度意外严肃。
  • 他建议 Rasmussen 等讨论者直接与各家 AI 公司的生物安全团队对话，称这与阅读打磨过的博客文章、或 CEO 在 CNN 采访与播客中被简化的论点「体验非常不同」；若拿出不支持对方主张的证据，团队也会认真对待。
  • 他补充称 AI 公司内部并非铁板一块，安全议题上存在大量内部争论，不能以官方口径代表全公司立场。
  • 他认为相比「AI 进行生物设计或自动化实验」，AI 时代供应链的物理与软件防护薄弱才是更迫近的风险，且加强这些防护无论如何都是净收益。
  • 在转推讨论中，有观点认为最大的生物安全风险不在设计新型生物武器，而在让更多新手借助 LLM 实验与采购助手开展危险操作；把焦点放在极端场景反而容易忽视真实的渐进风险。
  • 反方观点同样明确：Rasmussen 认为 AI 生物武器风险远不及既有生物武器风险，OliviaHelenS 反驳其「规避监管」说法是无根据的阴谋论；SGRodriques 认为人们严重误判了 AI 设计危险病毒的风险，医学上的上行收益远大于生物武器的下行风险；资深从业者 Perry Metzger 转述从业者 anselmlevskaya 的观点，称 EA 阵营惯用「AI 让业余者造生物武器」的说辞是利用公众恐惧与对分子生物学的无知。
  • AI 学者 Toby Walsh 也加入讨论，在被以澳大利亚黏液瘤病毒未能消灭所有兔子为例质疑其「避免夸大 AI 危害」立场时，援引生物医学领域从业者的看法，认为夸大风险无益于讨论。

尚未确认

  • 前沿实验室与病毒学家合作评估生物风险的具体场景、方法与结论均未公开披露，外界仍只能依据 Kundaje 的转述。

为什么重要

  • 这场争论凸显了一线合作经验与外界直觉之间的明显落差：直接接触实验室与生物安全团队，可能比阅读公开博客和媒体报道更可靠。
  • 将注意力从「AI 设计生物武器」的极端叙事转向供应链防护与新手门槛降低等渐进风险，对生物安全政策的优先级排序具有参考意义。
  • 双方立场均具体到可查证的当事人，为后续 AI 生物安全监管讨论提供了清晰的论点谱系。

第 5 集 · Jeff Clune 回应 ASI 生物风险质疑：应保持谦逊(2026-09-16,2 条)

AI 研究者 Jeff Clune 于 9 月 16 日在关于超级智能（ASI）风险的讨论中回应多项质疑。针对"ASI 能制造病毒为何不能防御"，他强调攻防不对称性意味着真实的生存风险；针对"ASI 还没到来"的质疑，他指出没人说 ASI 已经到来，"为什么还没治愈疾病"的论证并不适用。他的核心判断是：这里没有人能对任何事情有把握，各方都应保持谦逊。