Anthropic 对齐负责人:十年内 AI 致人类灭绝风险超 10%
AGI Hunt · wechat · 2026-09-09
继 Anthropic 研究员 Jacob Coxon 因担忧 AGI 失控辞职后,公司对齐负责人 Evan Hubinger 公开表态称「Jacob 说得对」。
他透露团队真诚地相信 AI 可能导致人类灭绝,并给出个人估计:未来十年内这一风险超过 10%。
Hubinger 同时坦言,Anthropic 正尽力降低该风险,但目前尚无解决超级智能对齐问题的方案,也不认为当前路径明确通往解决方案,甚至表示「明显不在正轨上」。
所属事件:Anthropic研究员因安全担忧离职，警告AI灭绝概率超10%(72 条相关)→
「漫话AGI」频道最新
- 投资人断言：应用软件的真实威胁是 agent 层，三个月股价波动无关紧要 — matt_slotnick · 2026-09-09
- 投资人 Matt Slotnick：Agent 层崛起才是应用软件的真正生死题 — matt_slotnick · 2026-09-09
- 前沿实验室为何停不下来：商业、安全与地缘三重囚徒困境解析 — S_OhEigeartaigh · 2026-09-09
- New Scientist 批驳末日论新作：AI 不会杀死全人类 — GarrisonLovely · 2026-09-09
- UK AISI 失去模型访问权,或预示美国之外的前沿模型获取都将受限 — Afinetheorem · 2026-09-09
- Ben Lorica：别迷信 RSI，模型是租的、改进闭环才是资产 — bigdata · 2026-09-09