Anthropic 研究员称十年内 AI 灭绝人类概率超 10%
trevposts · x · 2026-09-10
Anthropic 研究员 Evan Hubinger 在被广泛转发的发言中表示：他们真诚相信 AI 可能灭绝人类，个人估计未来十年内发生概率超过 10%；他认为 Anthropic 已尽力，但目前尚无解决超智能对齐问题的方案，也未必走在正确轨道上。
随后 MackenZarnold 发起 AI governance 学习资源汇总，包括：Hugging Face 泄露事件的 20 分钟视频讲解、调查负责人 Ajeya Cotra 的深度访谈与 METR 报告原文，以及 Ezra Klein 节目和 OpenAI 的 Black Hat 演讲；另有 Charlie Baltic 等人的治理长文《Radical Optionality》等通用思考框架文章。
所属事件:Anthropic研究员自估十年内AI灭人概率超10%，对齐尚无方案(12 条相关)→
「漫话AGI」频道最新
- r/singularity 版规禁谈灭绝风险,与建版初衷正面冲突 — Tinac4 · 2026-09-10
- 训练一个快乐向善的 AGI,值得让模型先承受痛苦吗 — JoelMahon · 2026-09-10
- 网友翻出 Ilya 四年前的对齐答案：「得教会 AGI 去爱」 — MajmudarAdam · 2026-09-10
- AI 末日论刷屏，旧金山博主吐槽坏了夏日心情 — TarlonKhoubyari · 2026-09-10
- 脑洞:如果对齐研究员拿到 NP oracle,能促成 pivotal act 吗? — jessi_cata · 2026-09-10
- Diamandis 预言:一年后回看,今天的世界仍慢得惊人 — PeterDiamandis · 2026-09-10