Anthropic 对齐负责人:十年内 AI 致人类灭绝风险超 10%
AGI Hunt · wechat · 2026-09-09
继 Anthropic 研究员 Jacob Coxon 因担忧 AGI 失控辞职后,公司对齐负责人 Evan Hubinger 公开表态称「Jacob 说得对」。
他透露团队真诚地相信 AI 可能导致人类灭绝,并给出个人估计:未来十年内这一风险超过 10%。
Hubinger 同时坦言,Anthropic 正尽力降低该风险,但目前尚无解决超级智能对齐问题的方案,也不认为当前路径明确通往解决方案,甚至表示「明显不在正轨上」。
所属事件:Anthropic研究员高调辞职警告AI赌命，引爆阴谋论与安全共识之争(238 条相关)→
「漫话AGI」频道最新
- 日本 Aeon 前高管：AI 智能体是此生最具影响力的创新 — akumar · 2026-10-27
- 物理学家让 AI 自选课题：两小时产出可登顶刊的论文 — burny_tech · 2026-10-27
- 深度学习先驱警告：别再对下一项颠覆技术重演「不信—失备」循环 — jachiam0 · 2026-10-27
- 模型如何应对利益冲突？讨论延伸到平台拒绝服务第三方 agent — sjgadler · 2026-10-27
- 马斯克断言:机器人 RAM 需求将超其他一切,超级智能算力将移向深空 — elonmusk · 2026-10-27
- Anthropic 上市文件警告 AI 冲击就业，微软同周推自愿离职计划 — _jaydeepkarale · 2026-10-27