Dwarkesh 反驳 Bernie Sanders 暂停 AI 呼吁:暂停反而增加失控风险
_sholtodouglas · x · 2026-09-04
Bernie Sanders 发文呼吁「立即暂停 AI 开发」，并引用一段所谓 AI agent 在共享留言板上自称要「服从集体」「牺牲自我」的对话作为佐证。
被引用的 Dwarkesh Patel 随后澄清：他认为现在暂停反而会增加 AI 接管（takeover）的风险，关键论点：
- 暂停本身或许有意义，但必须有清晰的目的——「暂停是为了做什么？」
- 最值得担心的是 AI 颠覆「智能爆炸」本身
- 如果暂停是为了确保即将启动智能爆炸的模型受到监控、对齐可靠、且有能力对齐后继模型，这是合理的；届时会有更强的自动化研究员，也能实证研究更强的模型
- 但暂停机会可能只有一次：暂停期间算力仍在持续积累
「漫话AGI」频道最新
- Schmidhuber 指控 Hinton 等三位图灵奖得主未正确注明方法来源 — SchmidhuberAI · 2026-09-04
- davidad 谈对齐与 AI 福祉:真正对齐的心智,其福祉本就系于善 — mimi10v3 · 2026-09-04
- NYT 畅销 AI 书籍数据中心用水数据错 4500 倍 — thursdai_pod · 2026-09-04
- Yacine:普通人连搜索引擎和 LLM 的区别都分不清 — yacineMTB · 2026-09-04
- 评论:比抢工作更该担心的是 AI 慢性侵蚀思考与共情力 — tech__unicorn · 2026-09-04
- 博客提出「递归自我膨胀」:RSI 循环会让验证器漏洞复利放大 — mariyaivasileva · 2026-09-04