Anthropic 员工:十年内 AI 灭绝人类概率超 10%,且尚无对齐方案
Delahuntagram · x · 2026-09-09
Anthropic 员工 Evan Hubinger(引用 Jacob 的发言)公开表示:我们真诚地相信 AI 可能灭绝全人类,他个人估计未来十年内发生概率超过 10%。他称 Anthropic 在尽力而为,但公司还没有解决超级智能对齐问题的方案,也不确定当前路线能否通向那里。
所属事件:Anthropic 对齐负责人：十年内 AI 灭绝人类概率超 10%(33 条相关)→
「漫话AGI」频道最新
- Scott Alexander 推算：OpenAI+Anthropic 营收对应每年推高 GDP 0.5 个百分点 — ben_j_todd · 2026-09-09
- 反 AI 者已跟不上对话节奏：观察者称这有损真正监管 — curiousinquirer007 · 2026-09-09
- 路透研究院六国研究:AI 改写新闻提升互动与可读性 — _FelixSimon_ · 2026-09-09
- Linus Ekenstam：对齐问题是真实危机，两年了警告者仍在被嘲 — LinusEkenstam · 2026-09-09
- 「公司更聪明，需求端更穷」：AI 裁员引发消费塌缩的循环之忧 — rahul_rajendran01 · 2026-09-09
- 有趣的 AGI 定义:用 1900 年前数学语料训练出相对论 — eigenron · 2026-09-09