Anthropic 研究员：十年内 AI 灭绝人类概率超 10%，对齐尚无解法
EvanHub · x · 2026-09-09
图灵奖得主 Boaz Barak 发文称行业里有很多严肃认真的人，希望能在安全上协调；他个人不认为 AI 会灭绝人类，但若不优先安全，存在多条糟糕路径。Anthropic 研究员 Evan Hubinger 引用并认同：我们真诚相信 AI 可能灭绝人类，我个人估计未来十年内概率 >10%；他认为 Anthropic 在尽力，但目前还没有解决超级智能对齐的方案，也未必在正确的轨道上。
所属事件:Anthropic对齐负责人自估十年内AI灭人类概率超10%(18 条相关)→
「漫话AGI」频道最新
- 博主质疑前沿实验室沉迷末日论调，呼吁转向技术乐观主义 — tekbog · 2026-09-09
- Yudkowsky 对阵 Newport：AI 危险源于自主智能体循环还是强优化器本身 — Unusual-Garbage-212 · 2026-09-09
- Anthropic 发现 Claude 内 171 个情绪向量，却被自己建的机制惩罚 — robleclerc · 2026-09-09
- r/math 禁发 AI 发现,网友用置顶热帖讽刺 — Strylau · 2026-09-09
- Hinton 承认对放射科医生预测错误,IGNx 撰文拆解其误判根源 — robleclerc · 2026-09-09
- Stanford-Harvard 联合发布首份临床 AI 年度报告 2026 — jonc101x · 2026-09-09