CEV是否等于“接管世界”？AI安全社区激辩
ohabryka · x · 2026-08-16
ohabryka在争论中反驳weidai11，认为如果美国政府单方面将主权扩展到全球并给予所有人公民身份，大多数人会称之为“接管世界”，即使同时扩展民主。他进一步指出，CEV（一致可扩展意志）如果成功，将直接赋予假设或模拟的人类权力，而非实际人类，因此可能构成“接管世界”。他还提到，JD Pressman在回应中明确表示MIRI试图定义一个数学对象来接管世界。
所属事件:MIRI是否曾图谋建FAI夺权，安全社区激辩(25 条相关)→
「漫话AGI」频道最新
- Kroger 裁 3000 个公司岗位占 37%，博主预言人形机器人 2030 年代接棒 — csuwildcat · 2026-10-16
- Ben Thompson：后 AI 经济的核心是制造人类欲望 — generativist · 2026-10-16
- 可解释性就算解决了也挡不住灾难：强 AI 项目本身被批鲁莽 — zetalyrae · 2026-10-16
- 约翰·纳什 1998 年「层级内省逻辑」手稿再引 AI 圈热议 — fkasummer · 2026-10-16
- OpenAI 前可解释性负责人：绝大多数神经元已可读，可解释性是最重要科学问题 — CatAstro_Piyush · 2026-10-16
- 研究员批「接续主义」:想毁灭宇宙的按钮按下者才是真危险 — jd_pressman · 2026-10-16