MAI 联创 Edelwax：AI 对齐该写入组织章程而非每次模型调用
edelwax · x · 2026-11-05
MAI 联合创始人 @edelwax 在与 @MTSlive 的对话中提出：AI 对齐正在错误的层面发生。
- 通常模型服从于使用者，未来则是服从于「没有员工、只有所有者」的公司
- 模型一方面要听命于所有者，另一方面又要与人类价值和公司使命保持一致，两者天然冲突
- 他的主张：把宪法与对齐放进组织而非每次模型调用——「该有宪法的是组织，不是模型」
在被引用的原推中，他进一步提出了「Telocracy」（目的治理）概念：源自他 15 岁起对社会系统为何偏离初衷的思考，今年在与法学家、哲学家、AI 政策学者、经济学家的大量讨论后形成正式提案，并称这种社会组织形式也能较好应对强大的 AI。
「漫话AGI」频道最新
- Personal Agent 赛道拥挤:模型厂、大厂、新星与个人开发者齐入场 — sven_ai · 2026-11-05
- 男子把「意识」上传到 GPT agent,agent 自发 mint 代币给自己付算力费 — rrwilliams · 2026-11-05
- Juan Benet 转述：15 年押注页岩气、比特币与数据中心三波争议基建 — juanbenet · 2026-11-05
- Juan Benet:智能爆发后模型将按需 JIT 生成专属软件 — juanbenet · 2026-11-05
- AI 让 1 到 n 容易了,0 到 1 却没变容易:复制太快是新难题 — signulll · 2026-11-05
- AI 边玩边改游戏：实时生成演示引发对游戏业冲击讨论 — Confident-Honeydew66 · 2026-11-05