MIRI 沟通战略曝光：目标是说服各国政府关闭前沿 AI 研发
davidmanheim · x · 2026-09-15
davidmanheim 在与 ramez 的争论中引用 MIRI（机器智能研究所）2024 年沟通战略文章。要点：
- MIRI 已转向：从技术对齐研究转向政策、传播与技术治理研究。
- 目标是「关闭它」：MIRI 认为唯一可行路径是说服各主要大国在全球范围内停止前沿 AI 系统开发，并担心正常立法程序会被妥协磨成无效监管。
- 过渡诉求：在实现全面立法前，先要求政府和 AI 实验室安装「关停开关」，确保未来能随时停止一切。
- 争论背景：@allTheYud 称整个 EA 行业「比『ASI 会杀死你』更聪明的 AI 观点对人类净有害」；davidmanheim 力挺 Rationalist 社区数十年坚持「说自己真实想法而非讨好性话术」的传统。
所属事件:AI安全圈激辩：灭绝叙事与ASI风险该如何向政策制定者沟通(9 条相关)→
「漫话AGI」频道最新
- AI 安全研究者：AI 公司完全缺乏这类有效的事后人类监督 — davidmanheim · 2026-11-02
- Ыég especial: 长文析 AI 价值在效率之后：Infra 必然过剩，应用层基建正当时 — yangyi · 2026-11-02
- vikhyatk:通往奇点路上算力将交替出现过剩与短缺 — TheZachMueller · 2026-11-02
- Sam Altman 断言：AI 已超越顶尖科学家，2026 将是历史转折点 — kimmonismus · 2026-11-02
- DeepSeek 设计文档：一人只能盯 3-5 个 agent 会话，瓶颈不再是模型 — heyshrutimishra · 2026-11-02
- AI 意识研究者:我们没有可靠方法判断 AI 是否有意识 — dioscuri · 2026-11-02