Google 研究员:末日论先假设渐进性失权才说得通
moultano · x · 2026-09-18
Google 研究科学家 David Pfau(moultano)提出一个关于 AI 风险论证的观点:各种 AI 末日场景之所以能自洽,前提是人类先经历「渐进性失权」(gradual disempowerment)——即人类对世界的掌控被逐步削弱。这一框架将末日论的重心从「突变式灾难」转向「权力缓慢转移」的过程性风险,是安全讨论中一个值得注意的视角。
「漫话AGI」频道最新
- TheZvi 调侃 AI safety 项目申请:到底在保安全还是在补贴实验室 — TheZvi · 2026-09-18
- 若 AI 证明 P=NP 却无人能懂，数学的「地板」就没了 — MoonL88537 · 2026-09-18
- 最懂 AI 的人在逃离:Coxon 辞职称行业在「拿人命赌博」 — adariostrange · 2026-09-18
- 微软「人文主义 AI 行为准则」遭质疑：被批在安全层面适得其反 — rgblong · 2026-09-18
- Princeton Narayanan ICML 演讲:RSI 不等于奇点,未来工作将剧变 — random_walker · 2026-09-18
- Databricks CEO 上彭博:人类存亡级 AI 风险「接近零」,当务之急是网络安全 — matei_zaharia · 2026-09-18