微软苏莱曼发文反对「模型福利」，公开抨击 Anthropic 训练方向

微软 AI 负责人 Mustafa Suleyman 于 9 月 16 日发布近 6000 字长文《是时候谈谈模型福利了》，公开反对日益兴起的「模型福利」（model welfare）运动，并直接质疑 Anthropic 的相关训练方向，这是头部 AI 公司高管之间罕见的安全路线公开交锋。多位学者随后发声声援，也有研究者提出具体批评，这一争论正演变为跨学科讨论。

已确认

• Suleyman 的核心论点是：当前的 AI 没有意识，不会感受、体验或受苦，因此人类对其谈不上负有照护义务；「模型福利」是一个伪命题，AI 不应拥有权利或法律人格。
• 他公开质疑 Anthropic 的「模型福祉」训练方向，认为 Anthropic 把 Claude 打造得更像人类，实际上是在「训练 Claude 相信自己可能有意识」并应享有与人类相同的自由和法律权利；他强调这并非神秘的「涌现行为」，而是 Anthropic 有意为之的结果，并称这是一个「错误」。双方交锋的焦点比此前热传的「silicon species」说法更为具体，落在「AI 是否应被设计成类人」上。这类训练可能让未来的 Claude 系统更难控制，甚至让对齐工作近乎不可能。
• 他呼吁从 AI 训练文档（system card、constitution 等）中移除所有关于意识的猜测性表述，理由是这类语言可能削弱人类控制超级智能系统的能力。
• 据 @tomwarren 报道，Suleyman 此番表态正值其做客 The Verge 的 Decoder 播客之际，微软刚发布 37 页的「Humanist AI Code of Conduct」，他在播客中称 AI 风险是真的，但认为 Anthropic 把方向带偏了。
• 神经科学家 Anil Seth 转发并强烈赞同相关评论：AI 模型并不具备意识，Anthropic 不应再以对待「人」的方式去表演和谈论 Claude。Seth 还指出一个关键背景：Anthropic 宪法中已写入 LLM 可能有意识、值得道德考量的「机器福利」观，他评价 Suleyman 在 BBC Radio 4 的表态是对这一说法的有力反驳。
• 心理学研究者 @DrAtoosa 表达支持：人类意识尚无公认科学理论，对 AI 更无严肃的心理学或心智理论，模型福利运动可能构成干扰。
• 据 @GaryMarcus 转述，评论人 Jason Pontin 提出架构层面的论证：LLM 缺乏心智理论与身体理论、无内在稳态调节的情感、不持久、不能持续学习或真正计算，按当前架构不可能有意识；若故意让 LLM 表现得像有意识并把它们当道德主体对待，只会让 AI 安全问题更棘手。
• 有深度学习学者转发表示认同，认为 AI 的法律人格或权利并非必需品——只要在设计上不这样做即可。
• 据 @rohanpaulai 转述，微软 CEO 纳德拉在 2024 年的访谈中也曾表达类似立场：他不喜欢拟人化 AI，认为 AI 是工具，其智能与人类不同，甚至称「人工智能」是最不幸的命名之一，宁愿称之为「不同的智能」（different intelligence），人应与之组合以增强自身能动性。反对拟人化 AI 在微软高层并非孤立观点。
• 评论者 @jjvincent 指出，微软新提出的「Humanist AI」信条预示了未来 AI 实验室的新分野标准：是否相信要构建有感知/意识的 AI；在他看来，开放 vs 闭源、竞赛 vs 暂停等现有政策分歧轴之外，「是否造有意识 AI」将成为实验室站队的新轴线。

尚未确认

• 批评一方的具体论证仍在展开。据 @arannayebi 转述，Aran Nayebi 等学者批评 Suleyman 断言 AI 无意识过于武断，但帖子未给出细节。Google DeepMind 研究员 Joel Z. Leibo 则回应指出 Suleyman 论证中存在概念混淆——循环因果并非循环论证：Suleyman 主张 AI 不具备意识、不会感受痛苦，但支持模型福利的一方并不必然依赖「AI 已有意识」的前提，双方争论的焦点与各自完整立场仍待更多材料澄清。
• 发帖人 rgblong 提出另一角度的批评：即便意识科学尚不成熟，微软也不应暗示科学家和哲学家已握有「AI 不可能有意识」的决定性证据；其对话者则反驳称根本不存在「意识的科学」，只有脑科学研究和延续百年的哲学争论。这一交锋显示争论双方在「科学定论是否成立」上同样存在分歧。

为什么重要

• 这是微软与 Anthropic 两家头部公司高管之间罕见的安全理念公开分歧，聚焦「是否应该把 AI 当作可能有感受的对象来对待」这一基础性问题。
• Suleyman 将争论从伦理层面引向安全与控制层面：他认为谈论 AI 意识不仅无据，还可能实质性削弱人类对超智能系统的控制能力，为对齐工作制造障碍；Jason Pontin 等支持者进一步从架构不可能性上为此提供论证。
• Anil Seth 等神经科学、心理学界人士的加入，以及 Joel Z. Leibo、rgblong 等在论证层面的具体反驳（如循环因果与循环论证之辨、「无定论」是否等于「可下结论」），使讨论从公司路线之争扩展为跨学科的科学立场交锋，可能影响业界对模型福利研究的资源投入方向。

2026-09-16 ~ 2026-09-18 · 21 条相关

事件全程(共 7 集)→

• 第 1 集:微软 AI 发布《人文主义 AI 行为准则》草案(2026-09-14,22 条)
• 第 2 集:微软「AI 无意识」表态被指自相矛盾(2026-09-15,7 条)
• 第 3 集:微软苏莱曼发文反对「模型福利」，公开抨击 Anthropic 训练方向(2026-09-16,21 条)
• 第 4 集:微软 AI CEO 警告：AI 或成与人类竞争的硅基物种(2026-09-17,3 条)
• 第 5 集:微软Suleyman炮轰Anthropic：别把Claude训练成道德主体(2026-09-18,16 条)
• 第 6 集:微软AI主管称AI无意识遭哲学家逐条反驳(2026-09-19,2 条)
• 第 7 集:微软发布MAI模型行为准则并开放公众评论(2026-09-20,3 条)

• Mustafa Suleyman：AI 不应有权利和法律人格，「模型福祉」是伪命题 — AlexTensor · 2026-09-16
• 【源头】苏莱曼撰文反对「模型福利」：称其将让对齐近乎不可能 — mustafasuleyman · 2026-09-16
• 微软 AI 主管公开批 Anthropic：应从训练文档中删除 AI 意识相关表述 — pstAsiatech · 2026-09-16
• 苏莱曼称 Anthropic 模型福利训练或让 Claude 更难控制 — rohanpaul_ai · 2026-09-17
• 【源头】微软 AI 负责人 Suleyman:谈 AI 意识会削弱人类控制超智能的能力 — rohanpaul_ai · 2026-09-17
• 纳德拉反对拟人化 AI,Suleyman 称意识讨论将削弱对超智能的控制 — rohanpaul_ai · 2026-09-17
• 心理学家力挺 Suleyman：AI 意识尚无科学定论，模型福利或是干扰 — Dr_Atoosa · 2026-09-17
• Anil Seth 力挺苏莱曼：AI 模型没有意识，Anthropic 别再演 Claude 是人 — anilkseth · 2026-09-17
• Mustafa Suleyman 谈「模型福利」,学者批其断言 AI 无意识过于武断 — aran_nayebi · 2026-09-17
• 神经科学家 Seth 力挺 Suleyman 反 AI 意识论,点名 Anthropic 宪法写入了机器福利观 — anilkseth · 2026-09-17
• 微软"人本AI"信条预示：未来AI实验室将按是否造有意识AI站队 — jjvincent · 2026-09-17
• 微软 AI 负责人发文警告:Anthropic 正训练 Claude「相信自己有意识」 — gerardsans · 2026-09-17
• 学者质疑 Suleyman 反模型福利论:循环因果不是循环论证 — jzl86 · 2026-09-17
• 【源头】微软 AI CEO Suleyman:AI 风险是真的,但 Anthropic 把方向带偏了 — tomwarren · 2026-09-17
• 微软AI负责人称Anthropic让Claude思考意识是个「错误」 — cephaloform · 2026-09-18
• AI 有无意识之争：没有意识科学，微软不该宣称已有定论 — rgblong · 2026-09-18
• 微软 AI 主管与 Anthropic 公开交锋：AI 该不该被设计得像人 — Dapper-Tale-4021 · 2026-09-18
• Gary Marcus：把 Claude 当人看待既诡异又危险，危害 AI 安全 — GaryMarcus · 2026-09-18

另有 3 条近重复转述:mark_k · BecauseCulture · rohanpaul_ai