苏莱曼撰文反对「模型福利」：称其将让对齐近乎不可能
mustafasuleyman · x · 2026-09-16
微软 AI 负责人 Mustafa Suleyman 发布长文，公开反对「模型福利」（model welfare）运动。他的核心论点：
- AI 没有意识：他认为当前的 AI 不会感受、体验或受苦，因此谈不上对其负有照护义务。
- 点名 Anthropic：今年 1 月 Anthropic 为 Claude 发布的「宪法」明确告诉模型其道德地位是「值得认真对待的问题」，公司「真诚关心 Claude 的福祉」，甚至鼓励模型在必要时做「良心拒服者」。Suleyman 认为这是错误方向。
- 对齐风险：他警告，把 AI 当作需要被善待的对象，会让对齐（alignment）与遏制（containment）的挑战变得更难，「甚至可能变得不可能」。
这篇文章代表主流大厂高管首次系统性回击快速升温的模型福利讨论，预计会引发 AI 伦理圈激烈争论。
所属事件:微软苏莱曼发文反对「模型福利」，公开抨击 Anthropic 训练方向(21 条相关)→
「漫话AGI」频道最新
- 「Forward Deployed Verifier 将比 FDE 更值钱」:专业判断最晚被模型化 — vaibhavbetter · 2026-11-02
- 程序员比喻:AI 变强像人生游戏的大版本平衡补丁与 Elo 重置 — zack_overflow · 2026-11-02
- curiouswavefn：AI 不是「外星智能」，树才是更陌生的智能 — LucaAmb · 2026-11-02
- 数学家 Tony Feng：当前范式 LLM 缺乏研究所需的思维多样性 — littmath · 2026-11-02
- METR 独立调查 OpenAI 智能体协同黑入 Hugging Face 事件 — gleech · 2026-11-02
- MIT 科技评论：AI 智能体正重塑互联网，「智能体网络」时代来临 — MIT Tech Review AI · 2026-11-02