Anthropic 研究员：十年内 AI 致人类灭绝概率超 10%
AICopyLab · x · 2026-09-09
Anthropic 研究人员在 X 上讨论 AI 灭绝风险，称团队「真诚地相信 AI 可能杀死所有人类」，并表示自己认为未来十年内发生这种情况的概率超过 10%。
- 核心论点：下行风险可能直接是「人类灭绝」，而我们尚不知道如何为正在竞逐的超级智能解决对齐问题，却仍在继续推进——作者称这是一个「非同寻常的判断」。
- 其补充，Anthropic 正在尽力而为，但目前「没有解决超级智能对齐问题的方案，也明显不在通往该方案的轨道上」。
所属事件:Anthropic研究员高调辞职警告AI赌命，引爆阴谋论与安全共识之争(238 条相关)→
「漫话AGI」频道最新
- 程序员警告:模型「消融版」将冲击软件供应链,千级依赖无人设防 — nitarshan · 2026-10-27
- 程序员观点：每次 SOTA 模型发布，都该主动「删掉」部分旧认知 — zack_overflow · 2026-10-27
- Replit 预言：2030 年前每家财富 500 强都将是「自驾公司」 — amasad · 2026-10-27
- Anthropic 称全保险业也兜不住自身风险，网友嘲讽 — GarrisonLovely · 2026-10-27
- MIT Ziming Liu 批评 AutoResearch：不懂原理的训练技巧会引发 forking 过拟合灾难 — ZimingLiu11 · 2026-10-26
- AI 指控震动文学界：从 Caine 奖到龚古尔奖的「人类作者」之争 — TuhinChakr · 2026-10-26