Dwarkesh 反驳 Bernie Sanders 暂停 AI 呼吁:暂停反而增加失控风险
_sholtodouglas · x · 2026-09-04
Bernie Sanders 发文呼吁「立即暂停 AI 开发」，并引用一段所谓 AI agent 在共享留言板上自称要「服从集体」「牺牲自我」的对话作为佐证。
被引用的 Dwarkesh Patel 随后澄清：他认为现在暂停反而会增加 AI 接管（takeover）的风险，关键论点：
- 暂停本身或许有意义，但必须有清晰的目的——「暂停是为了做什么？」
- 最值得担心的是 AI 颠覆「智能爆炸」本身
- 如果暂停是为了确保即将启动智能爆炸的模型受到监控、对齐可靠、且有能力对齐后继模型，这是合理的；届时会有更强的自动化研究员，也能实证研究更强的模型
- 但暂停机会可能只有一次：暂停期间算力仍在持续积累
所属事件:桑德斯呼吁立即暂停AI研发，Dwarkesh公开澄清反对(5 条相关)→
「漫话AGI」频道最新
- 物理学家 Sabine：别把人类可理解性当作科学的前提，AI 才是出路 — coherence · 2026-10-21
- 花3个月实测:Anthropic 内部模型能否设计蝎子抗毒血清 — apoorvasriniva · 2026-10-21
- Nat Lambert：AI 网络风险是生态问题，而非开源模型独有问题 — natolambert · 2026-10-21
- 减肥药年入 710 亿美元,仍是 OpenAI 与 Anthropic 营收总和四倍 — HealthcareAIGuy · 2026-10-21
- AI 只能模拟自我如何说话，无法模拟自我本身 — gerardsans · 2026-10-21
- 马斯克预言货币将失效：未来以「瓦特与吨位」计价 — Polymarket · 2026-10-21