换 AI 掌权概率不变？Szepesvari：真正的风险是超级智能体卷入国家博弈
CsabaSzepesvari · x · 2026-09-14
Szepesvari 线程的续篇：把掌权者从人类换成 AI，他认为灭绝概率并不会因此改变。真正的风险在于更宏观的结构：强大组织（民族国家）之间的角力，以及其中的反馈循环——如果再给这些组织配上大批「便宜、服从、superhuman 级」的智能体大军，灭绝风险会显著升高。
这是对「AI 灭绝风险到底来自模型还是来自人类制度」这一经典争论的具体化推演。
所属事件:RL 名家 Szepesvári：真正的 AI 生存风险在于国家博弈(6 条相关)→
「漫话AGI」频道最新
- Steven Byrnes 发布递归自我改进路线图报告,Plinz 警告美国反 AI 浪潮 — Dan_Jeffries1 · 2026-09-14
- 自动化对齐研究不能靠「抓到AI使坏就停」 — JacquesThibs · 2026-09-14
- blogger 呼吁公有化 Anthropic:50% 股权税不够,公众应持控股权 — AlexTensor · 2026-09-14
- AI 冲击学术生涯后的回应：不做被替代者，去做 AI 之前不可能的事 — avt_im · 2026-09-14
- AI画自己抱着蝴蝶，人类却在幻想把它们大卸八块 — amplifiedamp · 2026-09-14
- Damodaran类比90年代电动车之死，警告勿扼杀AI — pdamodaran · 2026-09-14