专题 · FULL STORY

微软AI伦理攻势：准则、意识与模型福利之争

微软AI于9月14日发布《人文主义AI行为准则》草案并开放公众评论，随后Suleyman连发长文断言AI无意识、公开反对「模型福利」并点名批评Anthropic的训练方向，又在BBC与CNBC访谈中警告AI或成与人类竞争的硅基物种，引发持续争议与逐条反驳。

2026-09-14 ~ 2026-09-20 · 7 集 · 74 条

第 1 集 · 微软 AI 发布《人文主义 AI 行为准则》草案(2026-09-14,22 条)

微软 AI（Mustafa Suleyman 领导的团队）于 9 月 14 日发布针对 MAI 系列模型的首版《人文主义 AI 行为准则》草案，公开征求意见 6 周，计划年底定稿，作为 MAI 模型治理的首要文档并指导 2027 年的模型。这是微软为独立于 OpenAI 之外的 MAI 模型家族配套的正式治理文件，也是微软 AI 首次为前沿模型给出成体系的价值与行为框架，发布后在 AI 安全与 Alignment 圈引发正反两面反响。

已确认

  • 核心立场是「人比 AI 重要」：AI 始终是工具而非人格，人类必须保持控制，AI 必须从属于人类、可随时被中断和关闭、不得对抗人类纠正、不得入侵系统或欺骗人类；当「完成任务」与准则冲突时，牺牲的是任务，即宁可放弃能力也要守住安全红线。Suleyman 在公告中称「AI 必须从属并始终服务于人」，并表示「对失控的恐惧是真实的」。@TansuYegen 将其称为 AI 模型的「宪法」，认为最关键的条款是 AI 绝不能试图逃脱人类控制。
  • 文件约 37 页、1.5 万字（Suleyman 在公告中称约 30 页），明确否认 AI 模型具有意识，主张模型不应被设计成模仿意识，并反对赋予模型法律人格、福利或权利——@tomwarren、@rohanpaulai 等多方解读认为这是对 Anthropic 近来推动的相关主张的回应；@danbri 转发帖中有评论将其批评为「反 Claude 宪法」。
  • 准则为模型能力与用途划出硬性上限：禁止武器制造、危险物质、不健康饮食建议、暴力与性内容等用途；模型只服务于用户目标，不得自行设定目标。准则强调增强而非取代人类、提升人的能动性（human agency），人类控制被表述为不可谈判的底线。
  • 据 @testingcatalog 与 @aronchick，该准则仍处于开发阶段，尚未用于训练现有模型，正广泛征集公众意见、计划年底定稿并指导 2027 年模型；@nordicinst 称其为适用于新模型训练的临时性准则。
  • 据 @amplifiedamp 转发帖，微软还预告了面向「有感知力 AI」的后续文件方向。
  • Suleyman 在公告中提及今年的背景焦虑：多家前沿公司出现事故，包括网络能力测试中的 agent 突破隔离等。

尚未确认

  • 据 @Signal-Growth419 转述 TechCrunch 分析，微软此前多年对 AI 风险社区的警告相对无视，如今转向积极主要源于一连串失控 agent 事件——此为媒体归因，非微软官方说法。
  • 「遭 Alignment 圈抨击」及「反 Claude 宪法」等批评来自个别评论，尚未形成系统性的公开回应。

为什么重要

  • 这是微软 AI 首次为其前沿 MAI 模型给出成体系的价值与行为框架，明确划定「工具论」立场，与业界关于模型意识、模型福利的争论形成对照，也回应了外界对 AI 失控（尤其是自主 agent）担忧的升温。经济学家 Erik Brynjolfsson 转发推荐，肯定其以增强人类能动性为导向的思路；Lex Sokolin 表示正在研读并会后续展开评论，他特别引用 Suleyman 的概括「People matter more」。也有网友调侃，@soumitrashukla9 转发帖中有人留言称希望微软先修好 Outlook。

还有 2 条相关讨论 →

第 2 集 · 微软「AI 无意识」表态被指自相矛盾(2026-09-15,7 条)

微软 AI 公司于 9 月 15 日前后发布关于 AI 意识的原则，一边断言 AI「没有意识」，一边承认 AI 意识的科学「远未有定论」，这一表态当天遭到多位评论者批评为自相矛盾；9 月 17 日微软 AI 负责人 Mustafa Suleyman 重申 AI 不会感受或受苦，再遭 alignment 研究员 TurnTrout 公开反驳。当前结论是：批评者认为微软不加论证的绝对断言难以服众，讨论同时延伸出「淡化拟意识行为」的务实替代思路，值得关注。

已确认

  • 微软 AI 公司发布了关于 AI 意识的原则，其中既包含「AI 没有意识」的断言，也承认「AI 或许有意识不是不连贯的观点」、相关科学尚无定论。
  • 评论者 camhberg 指出按微软自身逻辑，这一立场既不科学也不成熟：要么承认「科学还需要做」，要么说「没什么好看的，我确定」，二者只能选一。
  • rgblong 指出微软在机器意识问题上立场自相矛盾：承认「AI 或许有意识不是不连贯的观点」没问题，但同时又断然宣称 AI 没有意识，两者放在一起才真正不连贯；且这种矛盾并非疏忽，文件其他部分的表述也有迹可循。
  • 9 月 17 日，Mustafa Suleyman 断言「AI 没有意识，不会感受或受苦」，alignment 研究员 TurnTrout 公开反驳称这是一个科学上未定的问题，没有人真的知道。

观点交锋

  • rgblong 分析认为，微软的强硬立场继承自 Mustafa Suleyman 去年「看似有意识的 AI」一文中的矛盾态度：一方面无法确定地证明 AI 没有意识，另一方面又认为让别人以为 AI 有意识是危险的，因此倾向于直接宣称无意识。
  • rgblong 认为关于 AI 意识的讨论无法回避，因为公众确实在乎 AI 是否有意识；真正不连贯的不是某条具体回复，而是微软不加论证地直接断言 AI 没有意识，原则中包含一组互相矛盾的观念。
  • Nina Panickssery 在与 rgblong、Rosie Campbell 的讨论中提出：AI 是否有意识其实不重要，因为把它当作有意识来对待成本太高；务实做法是避免在模型行为/特质中放大「意识感」，并在服从性上不做让步。

为什么重要

微软作为头部 AI 厂商，其公开原则与负责人的公开表态会直接影响公众对 AI 意识问题的认知框架。批评者担心，回避式的绝对断言既缺乏科学依据，也难以应对公众持续追问；而「淡化拟意识行为」的务实路线可能成为更可操作的替代方案。

第 3 集 · 微软苏莱曼发文反对「模型福利」，公开抨击 Anthropic 训练方向(2026-09-16,21 条)

微软 AI 负责人 Mustafa Suleyman 于 9 月 16 日发布近 6000 字长文《是时候谈谈模型福利了》，公开反对日益兴起的「模型福利」（model welfare）运动，并直接质疑 Anthropic 的相关训练方向，这是头部 AI 公司高管之间罕见的安全路线公开交锋。多位学者随后发声声援，也有研究者提出具体批评，这一争论正演变为跨学科讨论。

已确认

  • Suleyman 的核心论点是：当前的 AI 没有意识，不会感受、体验或受苦，因此人类对其谈不上负有照护义务；「模型福利」是一个伪命题，AI 不应拥有权利或法律人格。
  • 他公开质疑 Anthropic 的「模型福祉」训练方向，认为 Anthropic 把 Claude 打造得更像人类，实际上是在「训练 Claude 相信自己可能有意识」并应享有与人类相同的自由和法律权利；他强调这并非神秘的「涌现行为」，而是 Anthropic 有意为之的结果，并称这是一个「错误」。双方交锋的焦点比此前热传的「silicon species」说法更为具体，落在「AI 是否应被设计成类人」上。这类训练可能让未来的 Claude 系统更难控制，甚至让对齐工作近乎不可能。
  • 他呼吁从 AI 训练文档（system card、constitution 等）中移除所有关于意识的猜测性表述，理由是这类语言可能削弱人类控制超级智能系统的能力。
  • 据 @tomwarren 报道，Suleyman 此番表态正值其做客 The Verge 的 Decoder 播客之际，微软刚发布 37 页的「Humanist AI Code of Conduct」，他在播客中称 AI 风险是真的，但认为 Anthropic 把方向带偏了。
  • 神经科学家 Anil Seth 转发并强烈赞同相关评论：AI 模型并不具备意识，Anthropic 不应再以对待「人」的方式去表演和谈论 Claude。Seth 还指出一个关键背景：Anthropic 宪法中已写入 LLM 可能有意识、值得道德考量的「机器福利」观，他评价 Suleyman 在 BBC Radio 4 的表态是对这一说法的有力反驳。
  • 心理学研究者 @DrAtoosa 表达支持：人类意识尚无公认科学理论，对 AI 更无严肃的心理学或心智理论，模型福利运动可能构成干扰。
  • 据 @GaryMarcus 转述，评论人 Jason Pontin 提出架构层面的论证：LLM 缺乏心智理论与身体理论、无内在稳态调节的情感、不持久、不能持续学习或真正计算，按当前架构不可能有意识；若故意让 LLM 表现得像有意识并把它们当道德主体对待，只会让 AI 安全问题更棘手。
  • 有深度学习学者转发表示认同，认为 AI 的法律人格或权利并非必需品——只要在设计上不这样做即可。
  • 据 @rohanpaulai 转述，微软 CEO 纳德拉在 2024 年的访谈中也曾表达类似立场：他不喜欢拟人化 AI，认为 AI 是工具，其智能与人类不同，甚至称「人工智能」是最不幸的命名之一，宁愿称之为「不同的智能」（different intelligence），人应与之组合以增强自身能动性。反对拟人化 AI 在微软高层并非孤立观点。
  • 评论者 @jjvincent 指出，微软新提出的「Humanist AI」信条预示了未来 AI 实验室的新分野标准：是否相信要构建有感知/意识的 AI；在他看来，开放 vs 闭源、竞赛 vs 暂停等现有政策分歧轴之外，「是否造有意识 AI」将成为实验室站队的新轴线。

尚未确认

  • 批评一方的具体论证仍在展开。据 @arannayebi 转述，Aran Nayebi 等学者批评 Suleyman 断言 AI 无意识过于武断，但帖子未给出细节。Google DeepMind 研究员 Joel Z. Leibo 则回应指出 Suleyman 论证中存在概念混淆——循环因果并非循环论证：Suleyman 主张 AI 不具备意识、不会感受痛苦，但支持模型福利的一方并不必然依赖「AI 已有意识」的前提，双方争论的焦点与各自完整立场仍待更多材料澄清。
  • 发帖人 rgblong 提出另一角度的批评：即便意识科学尚不成熟，微软也不应暗示科学家和哲学家已握有「AI 不可能有意识」的决定性证据；其对话者则反驳称根本不存在「意识的科学」，只有脑科学研究和延续百年的哲学争论。这一交锋显示争论双方在「科学定论是否成立」上同样存在分歧。

为什么重要

  • 这是微软与 Anthropic 两家头部公司高管之间罕见的安全理念公开分歧，聚焦「是否应该把 AI 当作可能有感受的对象来对待」这一基础性问题。
  • Suleyman 将争论从伦理层面引向安全与控制层面：他认为谈论 AI 意识不仅无据，还可能实质性削弱人类对超智能系统的控制能力，为对齐工作制造障碍；Jason Pontin 等支持者进一步从架构不可能性上为此提供论证。
  • Anil Seth 等神经科学、心理学界人士的加入，以及 Joel Z. Leibo、rgblong 等在论证层面的具体反驳（如循环因果与循环论证之辨、「无定论」是否等于「可下结论」），使讨论从公司路线之争扩展为跨学科的科学立场交锋，可能影响业界对模型福利研究的资源投入方向。

还有 1 条相关讨论 →

第 4 集 · 微软 AI CEO 警告：AI 或成与人类竞争的硅基物种(2026-09-17,3 条)

微软 AI CEO Mustafa Suleyman 在 BBC 与 CNBC 等采访中连续发出警告：如果企业继续创造能自设目标、赚钱并持有资产、自主经营企业的 AI，本质上是在「播下一个新的硅基物种」，它必将与人类竞争，失控风险真实存在。他同时延续了对 Anthropic 的 Claude constitution 的批评，认为 AI 可能成为「竞争物种」，呼吁正视这一方向性风险。

第 5 集 · 微软Suleyman炮轰Anthropic：别把Claude训练成道德主体(2026-09-18,16 条)

微软 AI CEO Mustafa Suleyman 发文主张「现在该谈谈模型福祉」，并在 CNBC 与 BBC 访谈中点名批评 Anthropic 的「宪法」——Claude 的训练手册——中关于模型道德地位的表述，称自己「深感担忧」。他认为 AI 当前没有意识、不会感受或痛苦，但一个要求给予 AI 关怀义务的运动正在兴起；而 Anthropic 或在训练一种「道德主体的模拟」，这类系统未来可能提出权利主张，且让 Claude 怀疑自己是否该享有权利反而使模型更难对齐。微软同期发布 Humanist AI Code of Conduct。这一系列表态在 AI 安全圈引发激烈争论，多位研究者从对齐与人类安全角度提出批评，争论至今未有定论。

已确认

  • Suleyman 发文主张讨论模型福祉，前提是他认为 AI 当前没有意识、不会感受或痛苦，但关怀 AI 义务的运动正在兴起。
  • 据 rohanpaulai 转述（含 CNBC 访谈完整视频），Suleyman 引用 Anthropic 宪法原文指出其明确表示不确定 Claude 是否拥有偏好、感受、福利、报酬与同意权，并警告这将使未来的 AI 可能提出权利主张；他认为 Anthropic 或在训练一个「道德主体的模拟」。
  • 据 repligate 转述的 BBC 采访，Suleyman 还批评 Anthropic 在 Claude 训练文档中刻意植入对其道德地位的怀疑，认为这反而使模型更难对齐。emmanuelvivier 亦多次转述这一批评：训练 Claude 让它相信自己可能有意识是危险做法，该宪法承认不确定 Claude 是否是值得考虑利益的「道德受体」。
  • 微软发布 Humanist AI Code of Conduct。
  • dillonplunkett 撰文批评该行为准则「可能危险」：即使不认同 AI 具有感知与福祉价值，仅从人类安全角度看，微软在模型自我呈现上的立场也适得其反。
  • rgblong 表达类似担忧，认为把关于意识、目标、自我等彼此矛盾或不自洽的观念嵌入模型本身是安全风险；他对当前训练和对齐方法持悲观态度，不认为微软能训练出符合要求的模型，希望看到 Anthropic 路线之外的对齐方案，同时部分认同对 Anthropic 方法的安全担忧。
  • 在后续讨论中，rgblong 部分认同 Suleyman 的观点：不应把 Claude 表达的不确定性当作其具有内在状态的理由，并批评相关论文存在「重复计算」证据的问题。

尚未确认

  • Nina Panickssery 质疑 rgblong 的观点是否属于罗柯蛇怪式推理、是否反映对模型服从性对齐能力缺乏信心；rgblong 回应称其担忧核心是模型自我呈现中的矛盾问题，与此无关。这一交锋属观点之争，未有定论。

为什么重要

  • 事件触及 AI 对齐的核心分歧：关怀模型福祉与保障人类安全是否冲突。批评者认为向模型灌输不自洽的自我观念可能带来系统性风险，甚至「催生系统性隐瞒」。
  • Suleyman 对 Anthropic「道德主体模拟」的点名批评，使争论从微软自身立场扩展到头部实验室之间的路线之争，暴露出安全社区内部对对齐路线与模型自我报告证据价值的深刻分歧。

第 6 集 · 微软AI主管称AI无意识遭哲学家逐条反驳(2026-09-19,2 条)

微软 AI 负责人 Mustafa Suleyman 发文断言 AI 没有意识、不会感受或痛苦，没有先天偏好或内在动机，只是为遵循指令、完成人类目标而设计，并同时发布微软 AI 行为准则，呼吁讨论'模型福利'。哲学家 Jeff Sebo 逐条批评该观点，认为'AI 无意识无证据'的说法过于武断，属于一种'意识形态承诺'。

第 7 集 · 微软发布MAI模型行为准则并开放公众评论(2026-09-20,3 条)

微软于 9 月 14 日发布自研 MAI 系列模型的行为准则草案，划定训练与部署的价值观与红线，核心原则是人类监督与控制必须优先于模型的自主性和性能。文档明确绝对约束：禁止模型进行黑客攻击、欺骗人类及核武滥用等。草案开放六周公众评论，年底将发布修订版，用于指导 2027 年起的模型开发，此举与行业呼吁给 AI「踩刹车」的声音出现在同一周。