生物风险辩论：该管 AI 能力还是管生物技术供应链
Justin_Halford_ · x · 2026-09-11
针对 adibaradwaj 对 AI 放大生物风险的担忧，Justin Halford 回应称生物风险是其唯一认为可信的 x-risk 机制，但关键分歧在于防范手段：是限制 AI 能力进步，还是收紧生物技术供应链管控。
他主张后者，理由是模型能力已经足够让有动机的行动者滥用于此，因此禁止 AI 进步“什么也买不到”；而今年的 abliterated 开源 SOTA 模型确实降低了门槛，构成显著的预期生命损失。
「漫话AGI」频道最新
- 又一位 AI 公司员工认为失控 AI 灭绝风险超 10% — jkcarlsmith · 2026-09-11
- 又一位 AI 公司员工表态: rogue AI 灭绝级灾难风险超 10% — jkcarlsmith · 2026-09-11
- OpenAI 五年老员工公开表态:AI 可能杀死所有人,我们需要慢下来 — JMannhart · 2026-09-11
- 「数学自动形式化计划」启动:称距把全部已知数学转成形式化代码仅差三个数量级 — i_dg23 · 2026-09-11
- Marin 直播训练 535B MoE 模型,Clement Delangue 呼应「信风险就开源百倍研究」 — dlwh · 2026-09-11
- 940亿美元流向新AI实验室,大头并非风投而是国家主权资金 — WhatTheLJW · 2026-09-11