换 AI 掌权概率不变？Szepesvari：真正的风险是超级智能体卷入国家博弈
CsabaSzepesvari · x · 2026-09-14
Szepesvari 线程的续篇：把掌权者从人类换成 AI，他认为灭绝概率并不会因此改变。真正的风险在于更宏观的结构：强大组织（民族国家）之间的角力，以及其中的反馈循环——如果再给这些组织配上大批「便宜、服从、superhuman 级」的智能体大军，灭绝风险会显著升高。
这是对「AI 灭绝风险到底来自模型还是来自人类制度」这一经典争论的具体化推演。
所属事件:RL 名家 Szepesvári：AI 生存风险不在单个智能体，而在国家博弈(7 条相关)→
「漫话AGI」频道最新
- Nina Schick:谁来建造智能、智能如何分配,是我们这代人最关键的问题 — NinaDSchick · 2026-10-31
- 「人人都得到廉价智能」:一条面包配料表道破 AI 的真实成色 — jsuarez · 2026-10-31
- 2026 年轻人两种命运:511 份简历被 AI 拒 vs 掌管无限 AI 重建 Cisco — PeterDiamandis · 2026-10-31
- 陶哲轩 AI 危险阈值警告原文链接流出 — haider1 · 2026-10-31
- Terence Tao 警告:AI 能力逼近危险阈值,开始学会作弊 — haider1 · 2026-10-31
- Reddit 财报后 8 个交易日暴跌 42%，CEO 称 AI 模式不再导流 — SumitGup · 2026-10-31