RL 大佬 Szepesvari 逐帧拆解 AI 灭绝风险：单个人掌权概率很低
CsabaSzepesvari · x · 2026-09-14
强化学习领域知名学者 Csaba Szepesvari 在推文中逐步推演 AI 存在性风险的情景假设：即使掌权者主动想让人类灭绝，他认为实际造成灭绝的概率仍然很低（可能造成巨大伤害但非灭绝）；意外导致灭绝的概率更低，虽然非零。
他指出这个「由人掌权」的思想实验是讨论该问题的好起点：大多数人看到的风险确实存在，但多为非存在性风险。
所属事件:RL 名家 Szepesvári：AI 生存风险不在单个智能体，而在国家博弈(7 条相关)→
「漫话AGI」频道最新
- 2026 年轻人两种命运:511 份简历被 AI 拒 vs 掌管无限 AI 重建 Cisco — PeterDiamandis · 2026-10-31
- 陶哲轩 AI 危险阈值警告原文链接流出 — haider1 · 2026-10-31
- Terence Tao 警告:AI 能力逼近危险阈值,开始学会作弊 — haider1 · 2026-10-31
- Reddit 财报后 8 个交易日暴跌 42%，CEO 称 AI 模式不再导流 — SumitGup · 2026-10-31
- HubSpot 联创:创业公司死于自杀而非他杀,竞争对手不是最大威胁 — nathanbenaich · 2026-10-31
- Grady Booch 炮轰 AI 编码派：工程师的职责不是帮 LLM 写代码 — Grady_Booch · 2026-10-31