Anthropic 研究员自称十年内 10% 灭绝概率,评论者警告:这信念本身更危险
kuza55 · x · 2026-09-09
Anthropic 研究员 EvanHub 重申:他们真诚相信 AI 可能在十年内灭绝人类,个人估计概率超过 10%,并坦言 Anthropic 尚无解决超级智能对齐的方案、也不确定在正轨上。dbreunig 引用反驳称:AI 实验室人员持有「10% 灭绝概率」这一信念所催生的危险,可能大于 AI 本身灭绝人类的真实风险(他认为后者低得多)——因为相信「存亡赌注」可以为由糟糕的决策开脱。这是 AI 安全圈关于 p(doom) 及其外部性的一场有代表性争论。
所属事件:Anthropic 研究员因安全担忧离职，警告 AI 灭绝概率超 10%(87 条相关)→
「漫话AGI」频道最新
- Anthropic 研究员警告 AI 威胁人类，CNBC 汇总专家风险评估 — ArtificialOther · 2026-09-10
- 经济学家 Ben Moll 撰文：AI 难在未来数年带来两位数 GDP 增长 — sebkrier · 2026-09-10
- LeCun 转发声讨 AI 末日论：伪命题换来的集权与经济停滞 — ylecun · 2026-09-10
- 安全派争论:拒绝加入 AI 实验室的人放弃了更多钱? — JacquesThibs · 2026-09-10
- EPFL 招聘安全预训练工程师,获 100 万美元资助造 700B 开源模型 — manoelribeiro · 2026-09-10
- e/acc 创始人嘲讽 AI 末日论者：担心灭世却只发推不删权重 — beffjezos · 2026-09-09