Kokotajlo 估计 AI 失控接管概率约 70%,不减速则达 90%
DKokotajlo · x · 2026-09-15
在与网友讨论 AI 风险时,前 OpenAI 研究员 Daniel Kokotajlo 给出他的量化判断:
- 他不认为 10% 是个小概率,但「未对齐 AI 接管」的总体概率要高得多——约 70%。
- 如果人类不减速 AI 发展,他估计这一概率约为 90%。
该表态出自他与 Dan Selsam AI 风险声明相关的公开讨论线程。
所属事件:OpenAI 前研究员称 AI 酿成全球灾难概率约 70%(4 条相关)→
「漫话AGI」频道最新
- Ыég especial: 长文析 AI 价值在效率之后：Infra 必然过剩，应用层基建正当时 — yangyi · 2026-11-02
- 研究员类比:AI 破解猜想易、提出猜想难,攻防同理 — mboehme_ · 2026-11-02
- vikhyatk:通往奇点路上算力将交替出现过剩与短缺 — TheZachMueller · 2026-11-02
- Sam Altman 断言：AI 已超越顶尖科学家，2026 将是历史转折点 — kimmonismus · 2026-11-02
- DeepSeek 设计文档：一人只能盯 3-5 个 agent 会话，瓶颈不再是模型 — heyshrutimishra · 2026-11-02
- AI 意识研究者:我们没有可靠方法判断 AI 是否有意识 — dioscuri · 2026-11-02