前 DeepMind 安全成员长文:「对齐无解,必须现在停止开发 AI」
DavidSKrueger · x · 2026-09-10
曾在 2018 年以实习生身份参与 Google DeepMind 安全团队早期工作的 David Krueger 发长文,呼吁立即停止 AI 开发。他解释当年放弃转正的原因:
- 研究操纵性推荐算法时被告知不要提 YouTube,不愿自我审查
- 不相信 Google 或任何 AI 公司真正理解并重视安全
- 从未对 AI 问题的技术解法抱有信心
他的核心论点:留给「细致治理」的时间已经耗尽,这是紧急危机,必须停下 AI。对那些从 AI 公司辞职说真话的人,他肯定其勇气,但也直言这是当初的坏赌注——以为公司会负责任、以为对齐来得及解决,事实证明都错了。
他强调自己不是末日论者,而是从 2018 年前就身处这个领域的现实判断:灭绝风险真实存在,公司不负责,「我们必须停止,没有别的选择」。
所属事件:剑桥学者 Krueger 发文呼吁立即停止前沿 AI 开发(2 条相关)→
「漫话AGI」频道最新
- Bryan Johnson 用「机械可解释性」研究女性激素数据:40 天后波动降超 30% — menhguin · 2026-09-11
- AI 风险圈论战:喊「毁灭概率」只会让公众更快失去兴趣 — agstrait · 2026-09-11
- 博主算账:130B 输出 token 相当于人类 PhD 干 3.5 万年 — YouJiacheng · 2026-09-11
- tszzl:AI 灭绝风险数字虚高但须严肃对待,更强模型反而有助对齐 — deanwball · 2026-09-11
- GPT-6 级模型只会死磕目标，用对前提才能榨出价值 — daniel_mac8 · 2026-09-11
- 前 OpenAI/Anthropic 预训练研究员辞职：四年没能完成一个想法 — inductionheads · 2026-09-11