MIRI早期是否想建友好AI？AI安全社区再起争论
jd_pressman · x · 2026-08-16
在AI安全社区的一场争论中，围绕MIRI（机器智能研究所）在2011-2013年间是否真正致力于构建友好AI（FAI）展开。JD Pressman声称MIRI当时认为自己能通过数学纯度率先实现AGI，而其他人则反驳称MIRI从未在“地下室”开发AGI，并指出相关证据不足。争论还涉及MIRI是否试图“接管世界”的表述，以及CEV（一致可扩展意志）的伦理问题。
所属事件:MIRI是否曾图谋建FAI夺权，安全社区激辩(25 条相关)→
「漫话AGI」频道最新
- 研究员批 AI 末日论：是包装成理想主义的虚无主义信号 — jd_pressman · 2026-10-16
- Kroger 裁 3000 个公司岗位占 37%，博主预言人形机器人 2030 年代接棒 — csuwildcat · 2026-10-16
- Ben Thompson：后 AI 经济的核心是制造人类欲望 — generativist · 2026-10-16
- 可解释性就算解决了也挡不住灾难：强 AI 项目本身被批鲁莽 — zetalyrae · 2026-10-16
- 约翰·纳什 1998 年「层级内省逻辑」手稿再引 AI 圈热议 — fkasummer · 2026-10-16
- OpenAI 前可解释性负责人：绝大多数神经元已可读，可解释性是最重要科学问题 — CatAstro_Piyush · 2026-10-16