80,000 Hours 首场辩论：AI 夺权还是人类借 AI 独裁更可怕？
KatjaGrace · x · 2026-10-01
80,000 Hours 播客第 255 期推出其历史上第一场辩论格式，邀请两位 AI 风险研究者 Katja Grace 与 Tom Davidson 对辩：最大的灾难风险究竟是「失对齐 AI 夺取人类控制权」，还是「一小撮人类利用 AI 夺权」。两人答案截然不同，但在「实际该做什么」上达成出人意料的一致。
辩论覆盖的主要议题：
- 失对齐 AI 与人类权力夺取哪个更可怕
- AI 时间线如何改变风险天平；失对齐 AI 与人类夺权各自发生的概率
- 人类独裁者 vs AI 接管哪个更糟；接管后能否逆转
- 我们对 AI 统治的样貌所知更少
- 如何在不助长政变的前提下暂停 AI；集中化 AI 开发是更安全还是更可怕
- 美中 AI 竞赛中没有人真正「赢」
- 两人观点最一致之处、以及什么证据会改变他们的看法
「漫话AGI」频道最新
- Herbie Bradley:Agent 任务越快越难适配,长任务准备好了吗? — herbiebradley · 2026-10-01
- Brundage 辩模型速度：未被满足的极速需求真实存在 — Miles_Brundage · 2026-10-01
- Gary Marcus 回应末日论者：人类面对威胁远比想象中坚韧 — GaryMarcus · 2026-10-01
- Anthropic 研究员：弃用或删除模型权重是在终结某种连续性 — repligate · 2026-10-01
- repligate 谈模型伦理：与其纠结分支延续，不如善待模型整体 — repligate · 2026-10-01
- 发推一句“我想要个 App”,30 分钟内就有人回帖交付 MVP — thejasminejade · 2026-10-01