Anthropic 研究员：十年内 AI 灭绝人类概率超 10%
EvanHub · x · 2026-09-09
Anthropic 对齐方向研究员 EvanHub 公开表示：团队「真心相信 AI 可能杀死全人类」，他个人估计未来十年内发生概率超过 10%。他承认 Anthropic 正在尽力，但目前仍没有解决超级智能对齐问题的方案，也看不清正在通往那条路上。Jeff Ladish 转发时评论「我们正处在一个可怕的 timeline」，并对 EvanHub 研究模型内部机制并公开结果表示支持。
所属事件:Anthropic对齐负责人自估十年内AI灭人类概率超10%(18 条相关)→
「漫话AGI」频道最新
- 博主质疑前沿实验室沉迷末日论调，呼吁转向技术乐观主义 — tekbog · 2026-09-09
- Yudkowsky 对阵 Newport：AI 危险源于自主智能体循环还是强优化器本身 — Unusual-Garbage-212 · 2026-09-09
- Anthropic 发现 Claude 内 171 个情绪向量，却被自己建的机制惩罚 — robleclerc · 2026-09-09
- r/math 禁发 AI 发现,网友用置顶热帖讽刺 — Strylau · 2026-09-09
- Hinton 承认对放射科医生预测错误,IGNx 撰文拆解其误判根源 — robleclerc · 2026-09-09
- Stanford-Harvard 联合发布首份临床 AI 年度报告 2026 — jonc101x · 2026-09-09