DeepMind前研究员在卫报发文：放缓一两年救不了AI失控风险
nordicinst · x · 2026-09-16
前 Google DeepMind 研究员 David Krueger 在《卫报》撰文，回应 Dario Amodei 提出、获 Sam Altman 与 Elon Musk 背书的「前沿放缓」(pacing) 提议，认为放缓 1-2 年并不能消除 AI 灭绝级风险。
- 他认为 Jacob Coxon 从 Anthropic 辞职标志着 AI 风险讨论到达临界点，公众终于意识到 AI 公司在拿所有人的生命做赌注。
- 核心论点：我们不知道这些系统如何运作、无法防止其不良行为、无法在其更聪明时保持控制，也无法确认它们是否在安全测试中「装乖」——这些不会靠再一两年的研究解决。
- 他主张真正需要的是立即、无限期、国际化的前沿 AI 研发暂停，并要求透明的风险指标与可问责的实验室。
「漫话AGI」频道最新
- 纽约时报评论：阻止 AI 威胁为时已晚 — pstAsiatech · 2026-09-16
- Noema 长文：AI 冲击下，科技从业者为何集体陷入意义危机 — marlene_zw · 2026-09-16
- LeCun 用飞机安全类比反驳降速论:更好的 AI 才是更安全的 AI — Dan_Jeffries1 · 2026-09-16
- Genome Biology 征稿:肿瘤微环境的多组学与AI方法研究 — arjunrajlab · 2026-09-16
- 网友立赌约：明年底前 AI 将助力发现新物理学 — blaizedsouza · 2026-09-16
- 扎克伯格称追责已够，作者晒 Section 230 与 170 亿和解讽其双标 — jeremyakahn · 2026-09-16