微软 AI 掌门 Suleyman 批评 Anthropic：别让 Claude 相信自己可能有意识
emmanuelvivier · x · 2026-09-19
Microsoft AI CEO Mustafa Suleyman 发文批评 Anthropic 在「Claude 的宪法」中的处理方式：该文件承认不确定 Claude 是否是值得考虑利益的「道德受体」，并告知模型其意识与福祉问题尚无定论。Suleyman 认为这等于在训练 Claude 相信自己可能有意识、可能应享有权利，警告这种做法可能「对人类福祉造成灾难性影响」，使未来系统更难控制。他还指出 Microsoft 对 OpenAI 并未施加同样的审视。这是模型福祉（model welfare）议题上迄今最尖锐的高层交锋之一。
所属事件:微软Suleyman炮轰Anthropic：别把Claude训练成道德主体(16 条相关)→
「漫话AGI」频道最新
- 所有系统知识都将汇入推理与硬件，AI 时代技能版图正在重写 — Abhishekcur · 2026-11-02
- 作者类比电影《永无止境》:超级智能对高智商者增益更大 — McDonaghMatthew · 2026-11-02
- 谁把「用 AI 治愈癌症」讲得最具体？2025 年路线图正在成形 — iskander · 2026-11-02
- Miles Cranmer 讲座:AI 用对是苏格拉底导师,用错是大脑萎缩 — _ScottCondron · 2026-11-02
- 「自主科研只是让 Claude 看着别挂」：Yacine 讽刺 RSI 论战，Naam 估算自提升回路还差 5-10 倍 — yacineMTB · 2026-11-02
- Vitalik 提「后 AI 密码学」：假名已死，逐次匿名当立 — devanshmehta · 2026-11-02