Dwarkesh 反对暂停 AI：现在暂停反而增加失控风险
DavidSKrueger · x · 2026-09-04
Dwarkesh Patel 因被 Bernie Sanders 引用支持暂停 AI 而公开澄清立场：他认为现在暂停会增加 AI 接管风险。要点：
- 暂停本身可能在某个时点是必要的，但必须有清晰的「暂停来做什么」的故事；他最担心的是 AI 颠覆智能爆炸本身。
- 如果暂停是为了确保即将启动智能爆炸的 AI 被充分监控、对齐并能对齐后继者，那才是有意义的。
- 评论者 Garrison Lovely 反驳：Dwarkesh 假设暂停期间算力仍会进步，但其实也可以冻结 AI 芯片（其新书 Obsolete 即主张冻结芯片）；Sanders 与 Greg Casar 的法案本身就直接禁止超级智能，若真能永久禁止 ASI，就无需在爆炸前暂停。
所属事件:桑德斯呼吁立即暂停AI研发，Dwarkesh公开澄清反对(5 条相关)→
「漫话AGI」频道最新
- Nature 刊文称 AI 无意识,Jeff Sebo 撰文回应引激辩 — anilkseth · 2026-10-21
- Polymarket:OpenAI 年内全面暂停训练的概率仅 7% — Polymarket · 2026-10-21
- Luiza Jarovsky:AI Agent 正在击穿 Gmail 垃圾邮件过滤 — LuizaJarovsky · 2026-10-21
- Daniel Lemire：AI 量产论文正在戳穿学术界的「教授庞氏骗局」 — lemire · 2026-10-21
- 学者吐槽:大学封杀爬虫下载论文,终身阅读量不足答辩委员会人数 — generativist · 2026-10-21
- 伯克利获 Schmidt Sciences 资助：用 AI 破解抹香鲸与虎鲸语言 — begusgasper · 2026-10-21