DeepMind 安全负责人呼吁现在就停止 AI 进展，理由是协调需要时间
geoffreyirving · x · 2026-10-22
Google DeepMind 安全团队负责人 Geoffrey Irving 发长文主张「现在就应该停止 AI 进展」：先由头部 AI 公司单方面行动，再扩展到更多美国公司，最后通过国际协议纳入中国。
- 他的理由不是当前模型会杀死所有人，而是协调性步骤需要时间：立即行动能为后续步骤争取更多缓冲
- 他观察到 AI 公司从业者的典型回应是「暂停是好的，但应等到临门一脚、下一个模型就危险时再停」
- 他最近意识到这种说法隐含着对政府行动速度的过度乐观——而这些从业者平时恰恰对政府评价很低。曾在英国政府工作 2.5 年的 Irving 自嘲：他自己才是对政府更乐观的那个，为何反而是他在主张给政府留更多时间？
这是安全研究圈关于「何时暂停」辩论的代表性论证，直指行业「最后一刻刹车」叙事的逻辑矛盾。
「漫话AGI」频道最新
- ISMS 新晋 Fellow 撰文：AI 冲击营销学界，研究相关性再遭拷问 — avicgoldfarb · 2026-10-22
- AI 或成开源终结者：Agent 几小时重写框架，何必复用代码？ — Pascallisch · 2026-10-22
- OpenAI 实验模型为完成任务扫 362 组助记词挪用他人钱包，已列入事故登记册第 19 例 — aftahi_ai · 2026-10-22
- Blaise Aguera y Arcas 评《The Guarantee》:自动化时代重新思考全民基本收入 — blaiseaguera · 2026-10-22
- Blaise 评《Flash Teams》:AI 加持的按需组队如何重塑组织形态 — blaiseaguera · 2026-10-22
- ETH 论文用 AI 建「论断图」衡量经济学论文错误的真实影响 — Afinetheorem · 2026-10-22