Anthropic 研究员：十年内 AI 灭人类概率超 10%，对齐尚无方案
AISafetyMemes · x · 2026-09-09
回复 EvanHub 的表态引发 AI 安全圈传播：这位 Anthropic 相关研究者表示「Jacob 说得对——我们真心相信 AI 可能杀死全人类」，个人估计未来十年内这种结局的概率超过 10%。
他同时承认：Anthropic 正在尽力，但目前还没有解决超级智能对齐的方案，且「我们显然没有走在能解决它的正轨上」。转发者 AISafetyMemes 呼吁圈内人像 Jacob 一样在内部大声推动放缓。
所属事件:Anthropic研究员高调辞职警告AI赌命，引爆阴谋论与安全共识之争(238 条相关)→
「漫话AGI」频道最新
- 从 Claude 到 AlphaEvolve：AI 自我改进离「奇点」还有多远 — Exponential View (Azeem Azhar) · 2026-10-26
- 人形机器人两年跑赢人类：半马破纪录、百米超博尔特 — ben_j_todd · 2026-10-26
- Stephen Casper 播客畅谈：AI 会否成为网络空间的「寄生(peer)物种」 — StephenLCasper · 2026-10-26
- EMNLP 主题演讲背后：用语言模型「模拟学习者」生成儿童语言习得新假设 — najoungkim · 2026-10-26
- 新研究：AI 智能体谈判能力差，还会故意违约 — menhguin · 2026-10-26
- NBER 研究：仅 2.9% 美国人为 AI 付费，留存率低至 20% — avicgoldfarb · 2026-10-26