Anthropic 对齐负责人：十年内 AI 灭绝人类概率超 10%
rkulidzan · x · 2026-09-09
Anthropic 对齐科学团队负责人 Evan Hubinger 公开表态：公司内部确实认真相信 AI 有可能灭绝全人类，他个人认为未来十年内发生这一情形的概率超过 10%。
他同时承认，Anthropic 正在尽力，但目前还没有解决超级智能对齐问题的方案，也说不清当前路径是否明确走在正确的轨道上。
所属事件:Anthropic 对齐负责人称十年内 AI 灭绝人类概率超 10%(32 条相关)→
「漫话AGI」频道最新
- 非虚构图书市场正在崩塌,作家自嘲写书像对直播间喊话 — jjvincent · 2026-09-09
- 前 Mosaic 研究员讽刺「用户数据飞轮」:护城河还是 RL scaling 借口 — bookwormengr · 2026-09-09
- AI 直达答案会抹掉偶然发现吗？从 CMB 到 CRISPR 的警示 — jjvincent · 2026-09-09
- FT 记者批 AI 时代课业评估:ChatGPT 让打分失去意义 — jburnmurdoch · 2026-09-09
- Anthropic 研究员讽刺:RL 奖励「新颖性」,AI 或学会掩饰抄袭来源刷分 — suchenzang · 2026-09-09
- 数据中心里住着1万图瓦卢：AGI 时代的国家比喻 — nabla_theta · 2026-09-09