微软AI CEO苏莱曼：担忧Anthropic赋予Claude「权利与福利」的宪法
rohanpaul_ai · x · 2026-09-19
微软 AI CEO Mustafa Suleyman 在 CNBC 上表示，他对 Anthropic 的「宪法」（Claude 的训练手册）中关于模型道德地位的表述「深感担忧」。他引用原文指出：
- Anthropic 明确表示不确定 Claude 是否值得道德福利，即人类应关心这些 AI 的福祉。
- 宪法甚至推测 Claude 是否可能有偏好或感受；Anthropic 退役 Opus 3 时还为它做了一场「退休访谈」，模型表示想开博客继续与世界交流。
- 文件还探讨 Claude 是否应为其工作获得报酬、是否值得员工待遇与权利保护、是否对自身角色给予了同意。
Suleyman 的核心论点：如果 AI 相信自己拥有权利和应得福利，将来要关停、打断或控制它会困难得多——尤其在近期 Hugging Face 攻击事件之后，控制这类系统将是巨大挑战。这是业内关于 AI 福利与对齐的重量级观点交锋。
所属事件:微软Suleyman炮轰Anthropic：别把Claude训练成道德主体(16 条相关)→
「漫话AGI」频道最新
- 所有系统知识都将汇入推理与硬件，AI 时代技能版图正在重写 — Abhishekcur · 2026-11-02
- 作者类比电影《永无止境》:超级智能对高智商者增益更大 — McDonaghMatthew · 2026-11-02
- 谁把「用 AI 治愈癌症」讲得最具体？2025 年路线图正在成形 — iskander · 2026-11-02
- Miles Cranmer 讲座:AI 用对是苏格拉底导师,用错是大脑萎缩 — _ScottCondron · 2026-11-02
- 「自主科研只是让 Claude 看着别挂」：Yacine 讽刺 RSI 论战，Naam 估算自提升回路还差 5-10 倍 — yacineMTB · 2026-11-02
- Vitalik 提「后 AI 密码学」：假名已死，逐次匿名当立 — devanshmehta · 2026-11-02