Anthropic 研究员 Evan Hubinger:十年内 AI 灭绝人类概率超 10%
Bonecondor · x · 2026-09-09
Evan Hubinger 在 X 上表态:自己真诚相信 AI 可能杀死全人类,个人估计未来十年内发生概率超过 10%。他承认 Anthropic 正在尽力,但目前尚无解决超级智能对齐问题的方案,也不确定是否在正确轨道上。
这番表态引发了安全社区内外的争论:有人批评这种「末日论调」重演 FTX 式的狂热叙事,对公信力没有帮助;也有人反驳,称他们只是在说出自己真实的信念。
所属事件:Anthropic研究员高调辞职警告AI豪赌，风波演变为协调造势争议(229 条相关)→
「漫话AGI」频道最新
- Gary Marcus 讽刺 AGI 信徒论据：未来AI自会想到我们想不到的 — GaryMarcus · 2026-09-11
- 三十年技术老兵怒斥末日论者：AI安全记录史上级 — robleclerc · 2026-09-11
- Ronald Qiao：市场持续低估 AGI 可能性，高估停滞延续 — abhiadesai · 2026-09-11
- MILA 研究者翻出 2020 年旧帖:AGI 进度超前自己 7 年计划 — irinarish · 2026-09-11
- 「蜂群研究」提议：给 AI Agent 集群行为建一门社会学 — soumitrashukla9 · 2026-09-11
- AI 风险与「智能」解绑：行动空间才是风险本身 — josh_wills · 2026-09-11