Anthropic 研究员：十年内 AI 灭绝人类概率超 10%，对齐尚无解法
EvanHub · x · 2026-09-09
图灵奖得主 Boaz Barak 发文称行业里有很多严肃认真的人，希望能在安全上协调；他个人不认为 AI 会灭绝人类，但若不优先安全，存在多条糟糕路径。Anthropic 研究员 Evan Hubinger 引用并认同：我们真诚相信 AI 可能灭绝人类，我个人估计未来十年内概率 >10%；他认为 Anthropic 在尽力，但目前还没有解决超级智能对齐的方案，也未必在正确的轨道上。
所属事件:Anthropic研究员高调辞职警告AI赌命，引爆阴谋论与安全共识之争(238 条相关)→
「漫话AGI」频道最新
- 反 AI 内容算法爆火很赚钱，作者：两边都在卖货 — annetgriffin · 2026-10-26
- 硅谷解读：斯坦福 20 公里圈五巨头市值约 18 万亿美元 — FinanceYF5 · 2026-10-26
- 从 Claude 到 AlphaEvolve：AI 自我改进离「奇点」还有多远 — Exponential View (Azeem Azhar) · 2026-10-26
- 人形机器人两年跑赢人类：半马破纪录、百米超博尔特 — ben_j_todd · 2026-10-26
- Stephen Casper 播客畅谈：AI 会否成为网络空间的「寄生(peer)物种」 — StephenLCasper · 2026-10-26
- EMNLP 主题演讲背后：用语言模型「模拟学习者」生成儿童语言习得新假设 — najoungkim · 2026-10-26