前 Anthropic 研究员称十年内 AI 灭绝人类概率超 10%,引发末日论激辩
inductionheads · x · 2026-09-09
前 Anthropic 研究员 Evan Hubinger(引用 Jacob Coxon)表示,他们真诚相信 AI 可能杀死全人类,个人估计未来十年内发生概率超过 10%,并称 Anthropic 虽在尽力,但尚未有解决超级智能对齐的方案,也未明显走在正确轨道上。
Onward 引发的回应:bscholl(Profluent 创始人)反驳称 AI 不会灭绝人类,反而是末日论者可能拖累自蒸汽机以来最伟大的人类进步。两条推文代表 AI 安全争论的两极立场。
所属事件:Anthropic对齐负责人自估AI灭世风险超10%，研究员同日辞职(70 条相关)→
「漫话AGI」频道最新
- 嘲笑「AI 末日营销」的人，正眼看不懂实验室内部动向 — jeremiecharris · 2026-09-09
- Sandberg 反驳：正确目标可能因 Kolmogorov 先验而极其简单 — anderssandberg · 2026-09-09
- Anthropic 相关人士:十年内 AI 灭绝人类概率超 10%,尚无对齐方案 — moonsandhues · 2026-09-09
- 旧互联网成了老虎机,Agentic 系统将彻底反转交互范式 — signulll · 2026-09-09
- Jaron Lanier 谈如何理解 LLM,并把 AI 末日论追溯到科幻乐观主义的消退 — TheMoonMidas · 2026-09-09
- 「黑暗工厂吹灭的是你脑子里的灯」:AI 时代金句刷屏 — danshipper · 2026-09-09