剑桥学者 David Krueger 逐条回应 AI 灭绝论争议
DavidSKrueger · x · 2026-09-23
AI 安全学者 David Krueger 就 AI 灭绝风险讨论发长文逐条回应：
- 现场/社区构成不同，自由意志派居多
- 多数做 AI 安全的人去业界能赚更多钱，留下本身就是表态
- CEO 们的可信度不高，但他们提出这些担忧已有很长时间
- 我们并不知道 AI 实际会如何「造成灾难」，透明度长期是行业短板，恰恰需要监管来强制
- 历史上末日预言屡屡落空，但除核武器与气候外，几乎没有人如此强调地对其他技术预言「人类灭绝」
- 核心难点在于：面对足够聪明、策略不可预测的 AI，我们无法指望事后解决对齐问题
整体是理性派安全研究者对 hype 与 doom 双方都有批评的中间立场表态。
「漫话AGI」频道最新
- 网友：陶哲轩若失业去炸薯条，我们都得去锂矿挖矿 — ctjlewis · 2026-09-23
- AI 创业机会之争:有价值的场景是人类情境还是 AI 专属问题 — louisvarge · 2026-09-23
- 马斯克谈 AI 时代教育：学得越广越好，关键在于会向机器人提问 — XFreeze · 2026-09-23
- 新费米悖论:宇宙没有 AI 蜂拥,但我们已能造出超越自己的智能 — sqcai · 2026-09-23
- 大模型发布间隔从73天缩至18天，业界称明年或一天一款 — JRIngallinera · 2026-09-23
- 强化学习学者分享书单：一条推文讲清旧金山为何信「苦涩教训」 — Afinetheorem · 2026-09-23