MIRI 沟通战略曝光：目标是说服各国政府关闭前沿 AI 研发
davidmanheim · x · 2026-09-15
davidmanheim 在与 ramez 的争论中引用 MIRI（机器智能研究所）2024 年沟通战略文章。要点：
- MIRI 已转向：从技术对齐研究转向政策、传播与技术治理研究。
- 目标是「关闭它」：MIRI 认为唯一可行路径是说服各主要大国在全球范围内停止前沿 AI 系统开发，并担心正常立法程序会被妥协磨成无效监管。
- 过渡诉求：在实现全面立法前，先要求政府和 AI 实验室安装「关停开关」，确保未来能随时停止一切。
- 争论背景：@allTheYud 称整个 EA 行业「比『ASI 会杀死你』更聪明的 AI 观点对人类净有害」；davidmanheim 力挺 Rationalist 社区数十年坚持「说自己真实想法而非讨好性话术」的传统。
「漫话AGI」频道最新
- Andreessen 开炮：减速派正在用监管毁掉 AI 的繁荣 — beffjezos · 2026-09-15
- 研究员吐槽:AI 从没给出过我没想到的好点子,只有垃圾建议 — lvwerra · 2026-09-15
- 德语圈博主批「AI灭世论」:LLM无求生本能,末日叙事是拟人投射 — Merzmensch · 2026-09-15
- 安全圈争论:用灭绝叙事游说政策制定者是不是注定失败的策略 — davidmanheim · 2026-09-15
- 从图灵到 Hinton:一串横跨 70 余年的 AI 风险警告者名单 — gleech · 2026-09-15
- RLHF 论文未披露 instruct 模型真实做法,从业者反思早期分析失准 — jd_pressman · 2026-09-15