Telocracy 提案:AI 让机构对「目的」负责的制度构想

edelwax · x · 2026-11-04

Pax Machina 第 7 号提案刊出 Joe Edelman(Meaning Alignment Institute 联合创始人)的「Telocracy」长文:现有对强 AI 未来的正面想象大多回避了人类意义、判断与权力问题。提案设想一个 AI 帮助机构恪守其宗旨、并帮助人们围绕自身目的组织行动的社会,并给出了具体机制:目的绑定财产、群体共同委托结果的联合结果市场等。OpenAI Foundation 正式方法项目主管 Nora Ammann 撰写评论,称这是她长期读到的最宏大、最完整的制度提案,同时指出三个待解挑战:若权力流向「人们宣称的价值」,操纵与博弈价值的风险如何防御;支撑系统的模型/算力/数据由谁建设、评估和拥有;以及如何边学边走完成过渡。Edelman 给出了可实验的起点。