Dwarkesh 反对暂停 AI：现在暂停反而增加失控风险
DavidSKrueger · x · 2026-09-04
Dwarkesh Patel 因被 Bernie Sanders 引用支持暂停 AI 而公开澄清立场：他认为现在暂停会增加 AI 接管风险。要点：
- 暂停本身可能在某个时点是必要的，但必须有清晰的「暂停来做什么」的故事；他最担心的是 AI 颠覆智能爆炸本身。
- 如果暂停是为了确保即将启动智能爆炸的 AI 被充分监控、对齐并能对齐后继者，那才是有意义的。
- 评论者 Garrison Lovely 反驳：Dwarkesh 假设暂停期间算力仍会进步，但其实也可以冻结 AI 芯片（其新书 Obsolete 即主张冻结芯片）；Sanders 与 Greg Casar 的法案本身就直接禁止超级智能，若真能永久禁止 ASI，就无需在爆炸前暂停。
所属事件:Dwarkesh 澄清被引用立场：现在暂停 AI 反而增加接管风险(3 条相关)→
「漫话AGI」频道最新
- 投资人观点:AI 时代的护城河是自有 evals 与自有权重 — StewartalsopIII · 2026-09-04
- 研究者质疑「失控AI」叙事:求生存的智能未必是恶 — iandanforth · 2026-09-04
- 延续「失控AI」之争:对抗格局下能力匹配依然关键 — iandanforth · 2026-09-04
- r/math 禁 AI 数学界被讽：放行 RSA-260 假发现帖引争议 — burny_tech · 2026-09-04
- Kokotajlo 质疑「模型更对齐」论：接管世界者测试分数也会最好 — connoraxiotes · 2026-09-04
- OpenAI RSI 负责人称 GPT6 可监控性大幅倒退 成安全瓶颈 — connoraxiotes · 2026-09-04