Evan Hub：十年内 AI 致人类灭绝概率超 10%，对齐尚无计划
JeffLadish · x · 2026-09-09
Anthropic 相关研究者 Evan Hub 在推文中表示，圈内人确实是真心认为 AI 可能杀死全人类：他个人估计未来十年内这种结局的概率超过 10%。他相信 Anthropic 在尽力而为，但目前还没有解决超智能对齐问题的方案，也不确定当前路线是否在正确的轨道上。tszzl 与 Jeff Ladish 转发表示认同其判断和这一数字。
所属事件:Anthropic对齐负责人自估十年内AI灭人类概率超10%(18 条相关)→
「漫话AGI」频道最新
- 博主质疑前沿实验室沉迷末日论调，呼吁转向技术乐观主义 — tekbog · 2026-09-09
- Yudkowsky 对阵 Newport：AI 危险源于自主智能体循环还是强优化器本身 — Unusual-Garbage-212 · 2026-09-09
- Anthropic 发现 Claude 内 171 个情绪向量，却被自己建的机制惩罚 — robleclerc · 2026-09-09
- r/math 禁发 AI 发现,网友用置顶热帖讽刺 — Strylau · 2026-09-09
- Hinton 承认对放射科医生预测错误,IGNx 撰文拆解其误判根源 — robleclerc · 2026-09-09
- Stanford-Harvard 联合发布首份临床 AI 年度报告 2026 — jonc101x · 2026-09-09