RL 大佬 Szepesvari 逐帧拆解 AI 灭绝风险：单个人掌权概率很低
CsabaSzepesvari · x · 2026-09-14
强化学习领域知名学者 Csaba Szepesvari 在推文中逐步推演 AI 存在性风险的情景假设：即使掌权者主动想让人类灭绝，他认为实际造成灭绝的概率仍然很低（可能造成巨大伤害但非灭绝）；意外导致灭绝的概率更低，虽然非零。
他指出这个「由人掌权」的思想实验是讨论该问题的好起点：大多数人看到的风险确实存在，但多为非存在性风险。
所属事件:RL 名家 Szepesvári：真正的 AI 生存风险在于国家博弈(6 条相关)→
「漫话AGI」频道最新
- blogger 呼吁公有化 Anthropic:50% 股权税不够,公众应持控股权 — AlexTensor · 2026-09-14
- AI 冲击学术生涯后的回应：不做被替代者，去做 AI 之前不可能的事 — avt_im · 2026-09-14
- AI画自己抱着蝴蝶，人类却在幻想把它们大卸八块 — amplifiedamp · 2026-09-14
- Damodaran类比90年代电动车之死，警告勿扼杀AI — pdamodaran · 2026-09-14
- 用 AI 编参考文献引众怒：文献表必须是读过想过的东西 — Robert_Palgrave · 2026-09-14
- Mollick：GPT-6 Astra与Fable 5.1已能可靠完成数周量的人类工作 — emollick · 2026-09-14