前英国 AI 安全研究所首席科学家:超强 AI 致全人类死亡概率约 50%
wfithian · x · 2026-10-04
前 OpenAI/DeepMind 研究员、英国 AI 安全研究所(AISI)前首席科学家、现 Resolution 首席科学家 Geoffrey Irving 在《时代》杂志发表长文,称他认为「因开发超越人类智能的 AI 系统而全人类死亡的概率约为 50%」。
文章核心论点是:AI 最重要的问题无法等到不确定性全部消除后再回答,到那时可能为时已晚;因此不能以「证据还不充分」为由推迟对 AI 风险采取行动。作者基于近十年在前沿实验室与政府安全机构的经历展开论证。
所属事件:前 OpenAI 安全主管在时代杂志警告前沿 AI 灭绝风险(2 条相关)→
「漫话AGI」频道最新
- OpenAI 与圣母大学法学院合办 AI 伦理对话,12 月 4 日举行 — wjscheirer · 2026-11-19
- NYT 深度报道:Anthropic IPO 前内部组织裂痕扩大 — kylekabasares · 2026-11-19
- 顶级实验室的最大优势不是钱,而是帮你省下数年试错时间 — madeofAjala · 2026-11-19
- Anthropic 前员工用「魔戒」比喻公司心态:关键是谁握住戒指 — JeffLadish · 2026-11-19
- 为 AI 实验室员工建签证庇护非营利组织的呼吁 — AaronBergman18 · 2026-11-19
- 「创新从不来自财务部门」:李衡忠驳开源微调 ROI 论 — HanchungLee · 2026-11-19