AI 设计病毒风险论战：科学家吁勿轻言生物武器威胁是幻想
scottleibrand · x · 2026-09-17
一场关于 AI 设计危险病原体风险的公开辩论：
- SGRodriques 的反方观点：人们对 AI 设计危险病毒的风险严重误判，不该把 AI 工程化生物武器说成世界末日。核心理由一是医学上的上行收益远大于生物武器的下行风险；二是进化约束——工程病毒一旦释放就脱离设计者控制，会朝最大化复制（即广泛感染）方向演化，这与『灭世』目标相冲突。
- kesvelt 的回应：有些科学家声称威胁文明级别的生物武器是幻想，他希望如此，但也警告『你看不到路径，不代表没人能做到』——尤其谨慎者往往选择沉默。他呼吁同行不要随意断言『没有生物手段能摧毁文明』，因为在风险缓解的 Overton 窗口正打开之时，公开言论可能产生实际影响。他援引曼哈顿计划时期的类比：Fermi 称链式反应只有约 10% 概率，Rabi 回应『如果我们可能因此丧命，10% 就不是小概率』；而彼时 Szilard 已开始思考如何、何时、向谁披露信息以护航未来。他自述担心的是自己的某位人类同事（或 AI）发现可行的疫情级攻击路径。
这场交锋折射出 AI biosecurity 社区内部的路线分歧：是靠『技术上行收益 + 进化约束』淡化风险叙事，还是保持不确定性、避免用自信断言关闭风险缓解的政策窗口。
所属事件:AI 生物武器风险之争：一线经验对阵公众叙事(10 条相关)→
「漫话AGI」频道最新
- Nat Lambert：开源模型或是维系 AI 生态的关键粘合剂 — natolambert · 2026-10-31
- 李开复新书《AI Native》11 月 3 日上市，获纳德拉作序推荐 — kaifulee · 2026-10-31
- AI 安全进入黑暗时代：Agent 会探测一切攻击面 — graceisford · 2026-10-31
- 闭门夜话:组织出货快 5 倍，GDP 却没涨 30% 的原因 — graceisford · 2026-10-31
- 公司用 AI 裁掉工程师后开始高薪返聘：判断力无法替代 — DavidLinthicum · 2026-10-31
- Nathan Young 提出四套方案：用预测市场问责 AI 圈不良行为 — NathanpmYoung · 2026-10-31