Anthropic 研究员称 10 年内 AI 灭绝人类概率超 10%，且尚无对齐方案
ShakeelHashim · x · 2026-09-11
Anthropic 对齐研究员 Evan Hubinger 公开表示，他真诚相信 AI 有可能在十年内灭绝人类，个人估计概率超过 10%。他承认 Anthropic 正在努力，但表示公司尚无解决超智能对齐问题的方案，且现状并不明显朝着这个方向前进。
这条表态由美国众议员 Angie Craig 引用以推动国会监管，称安全研究员正在辞职示警，而 AI 公司却在全速推进，呼吁国会现在就立法监管 AI。
所属事件:头部实验室连发AI灭绝警告，Coxon辞职帖浏览破1.6亿(23 条相关)→
「漫话AGI」频道最新
- 认知重商主义:AI 恐慌与早期资本主义的焦虑惊人相似 — adityaag · 2026-10-27
- 美中欧 AI 路线分化：美国押注 AGI 霸权，其余世界当公共品 — BubblyExtent1693 · 2026-10-27
- 实验猴荒：中国 3-5 万美元一只，繁育周期 4 年成药物临床前瓶颈 — zebird0 · 2026-10-27
- CJR 批评记者滥用「rogue」：别把 AI 写得像有了人性 — ShakeelHashim · 2026-10-27
- AI 致 PhD 申请邮件暴涨约 4 倍，不用 AI 写信反而更易突围 — AI4Code · 2026-10-27
- Weil 律所崩塌复盘：击垮 BigLaw 的不是商业模式，是信心 — jkubicki · 2026-10-27