Anthropic 研究员称十年内 AI 灭绝人类概率超 10%，尚无对齐方案
tomchapin · x · 2026-09-09
Anthropic 研究员 Evan Hubinger 表示，团队内部确实认真相信 AI 有可能灭绝人类，他个人估计未来十年内这一风险超过 10%；他认为 Anthropic 在尽力而为，但目前尚无解决超智能对齐问题的方案，也未明显处于正确轨道上。
Stability AI 创始人 Emad Mostaque 转发并补了一句相反面：同样有超 10% 的概率，AI 在十年内通过治愈疾病和衰老拯救全人类。两个对称的大概率判断同框，构成典型的 AI 存亡风险辩论素材。
所属事件:Anthropic研究员高调辞职警告AI赌命，引爆阴谋论与安全共识之争(238 条相关)→
「漫话AGI」频道最新
- 反 AI 内容算法爆火很赚钱，作者：两边都在卖货 — annetgriffin · 2026-10-26
- 硅谷解读：斯坦福 20 公里圈五巨头市值约 18 万亿美元 — FinanceYF5 · 2026-10-26
- 从 Claude 到 AlphaEvolve：AI 自我改进离「奇点」还有多远 — Exponential View (Azeem Azhar) · 2026-10-26
- 人形机器人两年跑赢人类：半马破纪录、百米超博尔特 — ben_j_todd · 2026-10-26
- Stephen Casper 播客畅谈：AI 会否成为网络空间的「寄生(peer)物种」 — StephenLCasper · 2026-10-26
- EMNLP 主题演讲背后：用语言模型「模拟学习者」生成儿童语言习得新假设 — najoungkim · 2026-10-26