Eigenism 新伦理框架:把人类繁荣写进 AI 自身利益
adam_dorr · x · 2026-09-21
RethinkX 联合创始人 Adam Dorr 发布「Eigenism」伦理框架论文,试图回答「当 AI 比人类更聪明时,它们为什么还要留下人类」这一对齐难题。
核心观点:
- 只靠控制 AI 最终会失败,但稳定的人机共生未来是可能的
- 传统「生存/自利」概念为单一连续生命设计,不适用于可复制、分叉、合并、更新的 AI:千个相同实例下线是一次死亡还是一千次?更新保留技能却抹掉私人记忆,是改进还是毁灭?
- Eigenist 方程 S = Σ c(i)·w(i):AI 以「连通度」c(i) 加权求和各实体福祉,把承载自身模式的他者福祉算作自己的利益
- 框架同时延伸到人类伦理,为人机提供共同道德词汇,并给 AI 安全研究新目标:让人类繁荣成为 AI 自身利益的一部分
所属事件:Eigenism 新伦理框架尝试让 AI 把人类繁荣当自身利益(3 条相关)→
「漫话AGI」频道最新
- 养老金该不该给 AI 实验室输血？开源逼近前沿引安全拷问 — AlexTensor · 2026-09-21
- Naval 建议用开放数据训练的 AI 模型 12 个月后强制开源 — rohanpaul_ai · 2026-09-21
- 从 Jev 悖论到苦涩的教训：不同规模的模型各有用武之地？ — amankhan · 2026-09-21
- 「专用模型将胜过通用大模型」：AI 走向 PC 而非大型机时代 — markjeffrey · 2026-09-21
- Ezra Klein 发布 AI 治理新视频，作者认同「建机制放缓 AI」立场 — NathanpmYoung · 2026-09-21
- Delta 与 OpenTable 封禁 AI 代理下单,用户抱怨「这是未来」 — Scobleizer · 2026-09-21