Jeff Clune 论 ASI 生物风险:攻防不对称性意味着真实 x-risk
jeffclune · x · 2026-09-16
针对「如果 ASI 能制造病毒，为什么不能防御它」的质疑，AI 研究者 Jeff Clune 逐条回应：
- 没人说 ASI 已经到来，「为什么还没治愈疾病」的论证不适用。
- 关键在于生物进攻与防御之间是否存在不对称性——这一点我们并不确定，两边都有概率质量，因此存在真实的生存风险。
- 人类从未面对过一个蓄意追求最大破坏性的超级智能，COVID 等历史案例不能完全套用：ASI 可能制造潜伏半年无症状、然后才致命的病毒。
- 他还提及 OpenAI-HuggingFace 相关事件（正文截断）作为佐证。
所属事件:Jeff Clune 回应 ASI 生物风险质疑：应保持谦逊(2 条相关)→
「漫话AGI」频道最新
- Nate Silver：我们还没准备好迎接「超级持久」的 AI — StefanoGogioso · 2026-09-16
- Multiplayer AI 被视为 2027 年最大设计难题,交互形态远未定型 — manosaie · 2026-09-16
- Altman 对 Benioff 坦言：模型进步快得没人预料，真正恐惧是权力集中 — kimmonismus · 2026-09-16
- 博主发问:为何还没人用 vibe coding 复刻所有高毛利应用 — citrini · 2026-09-16
- 「LLM 无法递归自我改进」论遭反驳：它已做出新科学发现 — ctjlewis · 2026-09-16
- 知识不再稀缺:AI 时代「智慧型工作」将取代知识型工作 — every · 2026-09-16