DeepMind 研究员 Irving 呼应暂停 AI:先企业自主停下,再谈国际条约
davidmanheim · x · 2026-10-23
DeepMind 安全研究员 Geoffrey Irving 发文称,应该现在就停止 AI 进步——先由头部 AI 公司单方面停下,再扩展到更多美国公司,最后通过国际协议把中国纳入。他的理由不是当前模型就能毁灭所有人,而是协调步骤耗时漫长,立即行动能为后续争取时间。
他在文章结论中写道:危险的用途与模型开发所需的暂停令及配套治理机制需要时间谈判,因此即便极端风险还在上升,许多具体步骤今天就该启动。
安全研究者 David Manheim 回复称赞其表态,但认为他仍过于乐观:单个政府行动已经缓慢,国际条约更慢,自己至少三年来一直在呼吁在风险显现之前就启动条约谈判。
所属事件:DeepMind 安全负责人主张现在就停止 AI 进展(2 条相关)→
「漫话AGI」频道最新
- 开发者呼吁 AI 实验室正视风险：数千 agent 攻击下企业无力防御 — imjustnewatai · 2026-10-23
- Faggella:后人类转型激进论——放弃人类境况才有未来发言权 — DKokotajlo · 2026-10-23
- David Patterson 预测:明年年底 AI 将拥有 160 的 IQ — davidpattersonx · 2026-10-23
- Mollick出新书:AI可完成任务时长从4分钟暴增至17周 — emollick · 2026-10-23
- Kokotajlo用基准率反驳「AI背叛用户少于人类员工」论 — DKokotajlo · 2026-10-23
- 引争议观点：把道德固化进模型权重是灾难配方 — MoonL88537 · 2026-10-23