Anthropic 员工称十年内 AI 灭绝人类概率超 10%,呼吁全球协调
JeffLadish · x · 2026-09-09
Anthropic 研究员 Evan Hubinger 与安全研究者 Jeffrey Ladish 就 AI 灭绝风险展开讨论:
- Evan Hubinger 直言:「我们真心相信 AI 可能杀死全人类」,他个人估计未来十年内发生概率超过 10%,并承认 Anthropic 尚未有解决超级智能对齐问题的方案,也未必在正确轨道上
- Ladish 表示无法给出字面灭绝的具体概率,但认为当前「相当可怕的」发展速度下,人类若能在各种坏结果之间守住窄路已属幸运;他认可 OpenAI 近期的一些有代价的举措,但强调单一公司或国家无法解决,需要尽快建立协调机制
所属事件:Anthropic研究员高调辞职警告AI赌命，引爆阴谋论与安全共识之争(238 条相关)→
「漫话AGI」频道最新
- 日本 Aeon 前高管：AI 智能体是此生最具影响力的创新 — akumar · 2026-10-27
- AI 真会「失控作乱」吗？CJR 告诫记者勿拟人化炒作 — ShakeelHashim · 2026-10-27
- 物理学家让 AI 自选课题：两小时产出可登顶刊的论文 — burny_tech · 2026-10-27
- 深度学习先驱警告：别再对下一项颠覆技术重演「不信—失备」循环 — jachiam0 · 2026-10-27
- 模型如何应对利益冲突？讨论延伸到平台拒绝服务第三方 agent — sjgadler · 2026-10-27
- 马斯克断言:机器人 RAM 需求将超其他一切,超级智能算力将移向深空 — elonmusk · 2026-10-27