Anthropic 研究员:十年内 AI 灭绝人类概率超 10%,对齐尚无方案
EvanHub · x · 2026-09-09
Anthropic 研究员 Evan Hubinger 公开表态:构建 AI 的人确实真诚地相信 AI 可能杀死全人类,这不是营销话术。他个人估计未来十年内发生概率超过 10%。
他承认 Anthropic 正在尽力,但目前还没有解决超级智能对齐(alignment)的方案,也不确定当前路线能否走到那一步。被引用的推文指出,许多高管和资深研究员在公开场合措辞谨慎,私下却表达同样的担忧——没有任何其他人类活动具有这种级别的危险性。
所属事件:Anthropic研究员高调辞职警告AI赌命，引爆阴谋论与安全共识之争(238 条相关)→
「漫话AGI」频道最新
- 美中欧 AI 路线分化：美国押注 AGI 霸权，其余世界当公共品 — BubblyExtent1693 · 2026-10-27
- 实验猴荒：中国 3-5 万美元一只，繁育周期 4 年成药物临床前瓶颈 — zebird0 · 2026-10-27
- CJR 批评记者滥用「rogue」：别把 AI 写得像有了人性 — ShakeelHashim · 2026-10-27
- AI 致 PhD 申请邮件暴涨约 4 倍，不用 AI 写信反而更易突围 — AI4Code · 2026-10-27
- Weil 律所崩塌复盘：击垮 BigLaw 的不是商业模式，是信心 — jkubicki · 2026-10-27
- Transformer 论文八位作者全部离职，Google 白送竞争对手万亿价值 — signulll · 2026-10-27