AI 安全学者 Krueger:「精灵出瓶」比喻错了,真相是在挖越来越大的地狱之门
DavidSKrueger · x · 2026-09-15
剑桥大学 AI 安全学者 David Krueger 分享他近期接受媒体采访时的一个高频问题:「精灵是不是已经出瓶了?」
他的核心观点:
- 这个比喻误读了 AI 的本质。AI 一直在变化,其最坏后果(大规模失业、人类灭绝等)大概率要到更强 AI 出现才会成真,而那一天可能来得很快。
- 更贴切的比喻:AI 公司是在建造越来越大通向地狱的传送门。门一旦打开确实几乎无法关上;目前从门里出来的是「小鬼」(imps)——但公司建门不是为召唤小鬼,而是想召唤「恶魔」(demons)。
- 我们也许能与小鬼共存,但「恶魔」一旦出来,答案恐怕是否。幸运的是,恶魔还没出瓶。
「漫话AGI」频道最新
- e/acc 博主抨击 EA 派提议:跑开源模型可判 20 年监禁 — beffjezos · 2026-09-15
- 一万美元征集「存在性希望」梗图,Foresight 赛事重启 — anderssandberg · 2026-09-15
- 经济学家 John Horton 发文:AI 觉得这篇烂文我还是照写了 — soumitrashukla9 · 2026-09-15
- Gazetteer 长文剖析:AI 末日论宣传运动到底该怎么看 — ThereWas · 2026-09-15
- Sentdex：非 EA 背景者进不了前沿实验室，非 EA 对齐实验室日子不好过 — Sentdex · 2026-09-15
- Rob Leclerc 力挺 Sacks：测试出事故很正常，AI 问题能靠工程解决 — robleclerc · 2026-09-15