Anthropic 研究员称 10 年内 AI 灭绝人类概率超 10%，且尚无对齐方案
ShakeelHashim · x · 2026-09-11
Anthropic 对齐研究员 Evan Hubinger 公开表示，他真诚相信 AI 有可能在十年内灭绝人类，个人估计概率超过 10%。他承认 Anthropic 正在努力，但表示公司尚无解决超智能对齐问题的方案，且现状并不明显朝着这个方向前进。
这条表态由美国众议员 Angie Craig 引用以推动国会监管，称安全研究员正在辞职示警，而 AI 公司却在全速推进，呼吁国会现在就立法监管 AI。
所属事件:头部实验室人员密集警告AI灭绝风险，马斯克斥为心理战(8 条相关)→
「漫话AGI」频道最新
- 与 ChatGPT 聊完两本书写作计划后，他觉得写不写都不重要了 — tinyfool · 2026-09-11
- AI 安全从业者反思：廉价恐吓让公众把 AI 风险等同于灭绝风险 — Dr_Atoosa · 2026-09-11
- 博主悬赏页9年来首次被bot用AI文本蹲赏金 — gleech · 2026-09-11
- Mozilla CTO 呼吁校园暂停生成式 AI：恐失去一代儿童 — Dan_Jeffries1 · 2026-09-11
- 安全从业者反思:廉价化的「AI 灭绝风险」话语如何毁掉公众想象力 — Dr_Atoosa · 2026-09-11
- 技术假说:ASI 会因数学激励而永久保护人类多样性 — No_Cause_2731 · 2026-09-11