MIRI 2017战略：保留对齐能力选择权，秘密助力AGI路径
jessi_cata · x · 2026-08-16
jessicata引用MIRI 2017年的筹款与战略更新，指出MIRI的策略更接近于“保留关于帮助哪些项目的选择权，利用其整合的对齐-能力洞见，在AGI/关键路径上预先保密”，而非“我们认为某个组织应该执行任务AGI”。这回应了关于MIRI是否试图“接管世界”的争论，表明其策略是保留选择权并秘密协助。
所属事件:MIRI是否曾图谋建FAI夺权，安全社区激辩(25 条相关)→
「漫话AGI」频道最新
- 研究员批 AI 末日论：是包装成理想主义的虚无主义信号 — jd_pressman · 2026-10-16
- Kroger 裁 3000 个公司岗位占 37%，博主预言人形机器人 2030 年代接棒 — csuwildcat · 2026-10-16
- Ben Thompson：后 AI 经济的核心是制造人类欲望 — generativist · 2026-10-16
- 可解释性就算解决了也挡不住灾难：强 AI 项目本身被批鲁莽 — zetalyrae · 2026-10-16
- 约翰·纳什 1998 年「层级内省逻辑」手稿再引 AI 圈热议 — fkasummer · 2026-10-16
- OpenAI 前可解释性负责人：绝大多数神经元已可读，可解释性是最重要科学问题 — CatAstro_Piyush · 2026-10-16