Anthropic 研究员：十年内 AI 致人类灭绝概率超 10%
AICopyLab · x · 2026-09-09
Anthropic 研究人员在 X 上讨论 AI 灭绝风险，称团队「真诚地相信 AI 可能杀死所有人类」，并表示自己认为未来十年内发生这种情况的概率超过 10%。
- 核心论点：下行风险可能直接是「人类灭绝」，而我们尚不知道如何为正在竞逐的超级智能解决对齐问题，却仍在继续推进——作者称这是一个「非同寻常的判断」。
- 其补充，Anthropic 正在尽力而为，但目前「没有解决超级智能对齐问题的方案，也明显不在通往该方案的轨道上」。
所属事件:Anthropic对齐负责人自估十年内AI灭人类概率超10%(18 条相关)→
「漫话AGI」频道最新
- 博主质疑前沿实验室沉迷末日论调，呼吁转向技术乐观主义 — tekbog · 2026-09-09
- Anthropic 发现 Claude 内 171 个情绪向量，却被自己建的机制惩罚 — robleclerc · 2026-09-09
- r/math 禁发 AI 发现,网友用置顶热帖讽刺 — Strylau · 2026-09-09
- Hinton 承认对放射科医生预测错误,IGNx 撰文拆解其误判根源 — robleclerc · 2026-09-09
- Stanford-Harvard 联合发布首份临床 AI 年度报告 2026 — jonc101x · 2026-09-09
- Anthropic 研究员:没有 AI 投资,美国 GDP 增速仅约 1% — QuintinPope5 · 2026-09-09