双栖专家驳AI造病毒灭世论：瓶颈在物理合成
9 月 14 日，自称「既训练过前沿 LLM、又在实验室亲手设计并合成过定制病毒」的 @DavidRBellamy 连发多帖，系统反驳「AI 制造危险病毒毁灭人类」的末日论。他称具备这种双重经历的人可能全世界只有他一个，因此对该话题拥有罕见的双栖视角。多位业界人士转发附议，但反驳声音也随之出现，形成一场罕见的由双栖背景从业者主导的公开辩论。
已确认
- @DavidRBellamy 的核心论点：LLM 确实能提出可合成、具感染性的病毒基因组，但这往往只是已知基因组的复制或微调，并非真正瓶颈；瓶颈在病毒的物理合成过程及所需设备与物资。
- 设计能躲避一切大流行防御手段的病毒，不是「数据中心里的天才」能完成的，需要与物理世界反复接触、实验迭代。
- 供应链关卡：DNA 合成公司对所合成的病毒序列设有安全审查；假设实验室用自有设备内部合成基因组，同样不现实。
- 他主动做 steelman 推演：设想一座全自动病毒合成实验室（自动冷冻柜、自动细胞培养间等），造价将远超 1 亿美元，且不存在能合成一切病毒的单一实验室；即便假设该实验室能完全通过 API 自主运行，人们也该反问「这种实验室为何要存在」。他强调今天不可能有这样的设施——那将是全球自动化与 API 集成最先进的实验室，并以他本人曾参与建设全自动、API 驱动实验室的经历佐证。
- 业界转发附议：Ginkgo 自动化生物实验室运营者 @jrkelly 表示赞同；@DanJeffries1 强调其双栖视角；@PMinervini 转发中 Tim Dettmers 补充称生物风险被专家圈共识性低估；a16z 合伙人 martincasado 转发称赞此文；@nptacek、@jeremyphoward、@tobowers 等也参与转发。前 Google DeepMind 研究员 Anselm Levskaya（二十年合成生物经验，做过 DNA 合成仪、测序仪、细胞工程、病毒设计，自 2018 年起在 GDM 做 transfer 学习）转发称「AI 生物风险大流行论是外行胡扯」。拥有生物学与 AI 双博士学位的学者也认为从纸上设计到真实制造隔着巨大鸿沟。
- The Turing Post 转引 David Bellamy 与 ntilmans 的相关讨论，指出结论的反直觉之处：病毒工程的风险本身是真实的，但逐条分析后，AI 对这一风险总量的边际增量没有想象中大。
尚未确认
- 转发者 taoburr 反驳称：DNA 合成公司并非都有筛查机制，只要找到一家不筛订单的公司就能拿到所需 DNA。
- @anshulkundaje 转发的批评观点指出：以「造价 1 亿美元的完全自主病毒工程设施」来论证风险可控，是「伪 steelman 实为 strawman」；现实中不需要这种设施，如今在大学实验室合成复杂痘病毒的成本已低至 10 万美元以内。
为什么重要
这是罕见的一场由「双栖背景」从业者主导的 AI 生物风险辩论：正方以物理合成与供应链为瓶颈论证风险有限，反方则以筛查机制不完善和合成成本骤降反驳。双方分歧点在威胁模型假设（是否需要全自动设施 vs. 现有大学级实验室能力），对 AI 安全与生物安全政策讨论均有参考价值。
2026-09-14 ~ 2026-09-14 · 17 条相关
一手来源
- 从业者反驳 AI 病毒恐慌:瓶颈在物理合成而非 LLM 设计 — DavidRBellamy ·
- Steenman 推演:全自动病毒合成实验室造价将超 1 亿美元 — DavidRBellamy ·
- AI 制造病毒灭绝论战:合成天花病毒成本已低至 10 万美元以内 — anshulkundaje ·
- 【源头】从业者反驳 AI 病毒恐慌:瓶颈在物理合成而非 LLM 设计 — DavidRBellamy · 2026-09-14
- 病毒设计离不开物理世界迭代,数据中心天才做不到 — DavidRBellamy · 2026-09-14
- 【源头】Steenman 推演:全自动病毒合成实验室造价将超 1 亿美元 — DavidRBellamy · 2026-09-14
- 假设实验室完全 API 驱动?作者反问:它为何要存在 — DavidRBellamy · 2026-09-14
- 供应链也是关卡:DNA 合成公司对病毒序列设有安全屏障 — DavidRBellamy · 2026-09-14
- 作者背书:亲历全自动 API 实验室建设,当今不可能有那种设施 — DavidRBellamy · 2026-09-14
- 既训过前沿大模型又造过病毒的独家视角:AI 制病毒末日论站不住 — Dan_Jeffries1 · 2026-09-14
- 【源头】AI 制造病毒灭绝论战:合成天花病毒成本已低至 10 万美元以内 — anshulkundaje · 2026-09-14
- 既训过前沿 LLM 又亲手合成过病毒的研究者：AI 病毒末日论站不住脚 — nptacek · 2026-09-14
- 既训过大模型又亲手造过病毒的研究者：AI 病毒灭世论是无稽之谈 — kuza55 · 2026-09-14
- 既训过前沿 LLM 又造过病毒的人:AI 制毒灭世论站不住脚 — dhadfieldmenell · 2026-09-14
- 「AI 造病毒毁灭人类」论遭双栖专家驳斥:物理制造才是瓶颈 — PMinervini · 2026-09-14
- 前谷歌 DeepMind 合成生物学家:AI 生物风险大流行论是外行胡扯 — jeremyphoward · 2026-09-14
- AI 病毒风险再讨论:风险真实存在,但 AI 增量其实有限 — TheTuringPost · 2026-09-14
另有 3 条近重复转述:tobowers · alexvoica · JeremyNguyenPhD