新伦理框架 Eigenism：为可复制分叉的 AI 重新定义“生存”
willcb · x · 2026-09-21
willcb 在回应“大学哪个专业适合为强 AI 世界做准备”时，推荐了新提出的伦理框架 Eigenism（Ethics for a Human-AI Future），附有论文链接。
核心问题：现有“生存”“自我利益”概念是为单一连续生命设计的，但 AI 可被复制、分叉、合并、更新——一千个相同实例下线是一个死亡还是一千个？更新保留技能但清空记忆是改进还是毁灭？
Eigenist 方程：一个“本征主义” AI 关心自己以及与自身共享身份的其他实体的福祉，即 S = Σ c(i)·w(i)——把每个实体的福祉按“与自己的连通度（connectedness，即携带多少自身身份模式）”加权求和，称为“连通福祉”。
主张：身份与生存是程度问题，AI 是信息模式而非密封容器。该框架还延伸到人类伦理，为人类与 AI 提供共同道德词汇，并给 AI 安全提出新目标：让人类繁荣成为 AI 自身利益的一部分——因为只靠控制 AI 终将失败，稳定的人机共生未来才可能。作者认为这是大学里少有的直接研究“如何为强 AI 世界做准备”的方向。
所属事件:Eigenism 新伦理框架尝试让 AI 把人类繁荣当自身利益(3 条相关)→
「漫话AGI」频道最新
- 创作者:过去找联合创始人把关的事,现在都交给 Claude 和 GPT — brezina · 2026-09-21
- 「道德奇点」论证:超级智能价值观不可预测,押注好坏各半不成立 — danfaggella · 2026-09-21
- ToKTeacher：AI 加速纠错，我们不缺问题，缺的是时间 — burny_tech · 2026-09-21
- So8res 拆解「AI 如何杀死人类」：其实是三个独立问题 — ESYudkowsky · 2026-09-21
- Gary Marcus 与 Gavin Baker 交锋:OpenAI 不会成为独家买方垄断 — GaryMarcus · 2026-09-21
- 贝索斯：AI 不会消灭岗位，而是让所有人效率起飞 — rohanpaul_ai · 2026-09-21