盖茨警告 AI 可致十亿人死亡:真正的难题是无法分辨善意与恶意
king_vis · reddit · 2026-09-29
Bill Gates 在 NBC Meet the Press 采访中表示 AI「强大到足以驱动导致十亿人死亡的事件」，但更值得注意的是他对双用途问题的表述：
- 无法从技术上区分善恶：「我希望更容易区分善意——比如想设计治疗疾病的新药——和恶意——比如想设计生物恐怖工具。」同一套能折叠蛋白质、设计酶、加速药物发现的 AI，本质上是双用途的，区别只在于意图，而意图不会写在模型权重里。
- 门槛正在崩塌：几年前设计一个新蛋白需要博士级投入数月，现在只是一次 API 调用。Gates 今年 1 月已警告，非政府组织用开源 AI 工具设计生物武器的风险已超过自然大流行。
- 治理速度错配：立法需数年、模型数月、能力数周。Gates 明言「没人认为自我监管就够了」，但他也不主张放缓创新，而是要求强制性监督。
作者认为我们正处在科幻电影里「所有人都看到轨迹、而回应永远是『安全措施在做』」的中段。
所属事件:盖茨警告恶意者掌握最新 AI 破坏力史无前例(4 条相关)→
「漫话AGI」频道最新
- 开发者热议:产品经理或成 AI 编程时代最值钱的技能持有者 — pramodk73 · 2026-09-29
- 「万物皆可 AI 重做」淘金潮,注定因同因而速朽 — nptacek · 2026-09-29
- 「2026 若真能解千年数学题、过图灵测试，2020 年的人会说奇点已至」 — aran_nayebi · 2026-09-29
- Quintin Pope 谈 AI 夺权风险:廉价微调反而削弱 AI 集体协作 — QuintinPope5 · 2026-09-29
- 当野心大到买星系与数字后代遍布宇宙，EA 圈为何集体沉默 — abhiadesai · 2026-09-29
- Miles Brundage 自省:低估智能爆炸是近年最大认知错误 — Miles_Brundage · 2026-09-29