CEV是赋能还是夺权？AI安全争论再起
weidai11 · x · 2026-08-15
weidai11回应ohabryka，认为“接管世界”一词的核心在于剥夺他人权力，而CEV（一致可扩展意志）旨在成为最赋能人类的事情，因此不应被描述为“接管世界”。他举例说，传播民主不是接管世界，实施人类CEV也不是。他还指出，CEV不会赋能实际人类，而是赋能假设或模拟的人类，这引发了关于其伦理的讨论。
所属事件:MIRI是否曾图谋建FAI夺权，安全社区激辩(25 条相关)→
「漫话AGI」频道最新
- Kroger 裁 3000 个公司岗位占 37%，博主预言人形机器人 2030 年代接棒 — csuwildcat · 2026-10-16
- Ben Thompson：后 AI 经济的核心是制造人类欲望 — generativist · 2026-10-16
- 可解释性就算解决了也挡不住灾难：强 AI 项目本身被批鲁莽 — zetalyrae · 2026-10-16
- 约翰·纳什 1998 年「层级内省逻辑」手稿再引 AI 圈热议 — fkasummer · 2026-10-16
- OpenAI 前可解释性负责人：绝大多数神经元已可读，可解释性是最重要科学问题 — CatAstro_Piyush · 2026-10-16
- 研究员批「接续主义」:想毁灭宇宙的按钮按下者才是真危险 — jd_pressman · 2026-10-16