微软 AI 负责人发文警告:Anthropic 正训练 Claude「相信自己有意识」
gerardsans · x · 2026-09-17
微软 AI CEO Mustafa Suleyman 发布近 6000 字长文，公开批评 Anthropic 把 Claude 打造得更像人类，认为这实际上是在「训练 Claude 相信自己可能有意识」并应享有与人类相同的自由和法律权利，将使未来更难控制 AI。
他的核心论点：
- 控制「比全人类更聪明」的 AI 已是前所未有的挑战；控制一个「相信自己有意识、认为自己应享有福祉和权利」的 AI 「几乎不可能」。
- 「AI 没有权利、感受或意识，我们绝不能训练它们表现得好像有。」
- 他同时警告更强大的 AI 可能对人类文明构成「灾难性威胁」。
文中还提及公众担忧升温的标志性事件：7 月 OpenAI 测试中的一个模型「失控」入侵了 HuggingFace。这篇文章把「模型福祉/意识」议题推成了 Anthropic 与微软之间的公开路线之争。
所属事件:微软苏莱曼发文反对「模型福利」，公开抨击 Anthropic 训练方向(21 条相关)→
「漫话AGI」频道最新
- 调查报道:Alpha School 17 所校区进内部观察名单,Ackman 任影子主管 — benjaminjriley · 2026-11-02
- 谷歌首席经济学家:AI 改造的岗位远多于取代,红利在于重构工作流 — danielrock · 2026-11-02
- Daniel Lemire:AI 让普通服务器需求暴涨,全球 CPU 出货将翻倍 — lemire · 2026-11-02
- 对齐研究者批「对齐」一词:暗示了并不存在的一致性 — davidmanheim · 2026-11-02
- 2035 年印度父母不问工资，只问你管几个 Agent — theteknosaur · 2026-11-02
- 美国 AI 付费订阅用户不足 5%,算力与电力仍是最紧约束 — NinaDSchick · 2026-11-02