盖茨警告 AI 可致十亿人死亡:真正的难题是无法分辨善意与恶意
king_vis · reddit · 2026-09-29
Bill Gates 在 NBC Meet the Press 采访中表示 AI「强大到足以驱动导致十亿人死亡的事件」,但更值得注意的是他对双用途问题的表述:
- 无法从技术上区分善恶:「我希望更容易区分善意——比如想设计治疗疾病的新药——和恶意——比如想设计生物恐怖工具。」同一套能折叠蛋白质、设计酶、加速药物发现的 AI,本质上是双用途的,区别只在于意图,而意图不会写在模型权重里。
- 门槛正在崩塌:几年前设计一个新蛋白需要博士级投入数月,现在只是一次 API 调用。Gates 今年 1 月已警告,非政府组织用开源 AI 工具设计生物武器的风险已超过自然大流行。
- 治理速度错配:立法需数年、模型数月、能力数周。Gates 明言「没人认为自我监管就够了」,但他也不主张放缓创新,而是要求强制性监督。
作者认为我们正处在科幻电影里「所有人都看到轨迹、而回应永远是『安全措施在做』」的中段。
所属事件:盖茨警告恶意者掌握最新 AI 破坏力史无前例(4 条相关)→
「漫话AGI」频道最新
- 「一切贵 5% 却好 10% 的按钮并不存在」:劣化换低价已成行业常态 — eigenrobot · 2026-11-16
- 网友吐槽:有效利他主义并非草根运动,而是高度自上而下的层级组织 — ctjlewis · 2026-11-16
- 律师抱怨:AI 让当事人预期失真、引用假判例、动辄质疑律师 — hoofnagle · 2026-11-16
- 开发者驳'失控 AI'论:补贴式订阅撑不起昂贵 AI 集群 — gerardsans · 2026-11-16
- Ben Thompson 撰文:黄仁勋的落幕标志 Nvidia 长期前景与 AI 泡沫终结 — morqon · 2026-11-16
- 博主称再有5-10GW算力与千万级AI科学家即可逼近“魔法” — Dr_Singularity · 2026-11-16