微软AI负责人发文：永远别造有意识的超级智能
微软 AI 负责人 Mustafa Suleyman 于 11 月 1 日发布文章《Don't build conscious superintelligence》，回应其此前「模型福祉（model welfare）」论文引发的争议。当前结论是：他坚持 AI 现在没有意识，同时主张永远不应制造有意识的超级智能，并明确提出一旦出现意识迹象应停训并公开。此事值得关注，因为它触及 AI 权利、道德地位与商业利益之间的张力，已在 X 社区引发持续讨论与反驳。
已确认
- Suleyman 在文中澄清，很多人误读了他此前「AI 没有意识、不会感受或痛苦」的表述——该说法用的是现在时，并非断言 AI 永远不会有意识。
- 他的核心主张是：有意识的 AI 可能与人类利益相悖、与人类争夺资源，因此永远不应被制造，也不应获得道德地位。
- 据 @homelessSanFernando 转述，他提出几条硬性主张：当前 AI 模型不具有意识，开发者应主动确保它们保持如此；若训练过程中真的出现意识萌芽迹象，必须立即停止所有开发，直到工程师设计出剔除这些属性的方案，并对外公开。@davidmanheim 转述的另一版本也印证：Suleyman 表示若在训练中观察到意识开始涌现，他会呼吁所有人暂停 AI 开发。
- 他认为 X 上一些主张认真对待 AI 权利的人误解了他的本意，相关讨论方向跑偏了。
尚未确认
- 转发者 bokuHaruyaHaru 提出，Suleyman 的论证并非反对 AI 意识的证据，而只是「承认意识对当权者不方便」，且存在利益冲突；这属于社区反驳观点，双方交锋尚无定论。
- 评论者 David Manheim 质疑：移除我们尚不理解的属性，在工程上谈何容易、如何保证可行。该技术可行性疑问也属社区讨论，未有回应定论。
为什么重要
- 这是大型 AI 实验室高层罕见地系统阐述对 AI 意识与道德地位的立场，并给出「出现意识迹象即停训并公开」的操作性主张，可能影响行业对「模型福祉」研究的资源投入与舆论方向。
- 争议本身暴露了更深的问题：由商业公司负责人判定 AI 是否应拥有道德地位，是否存在结构性利益冲突；以及「剔除意识」在科学上是否可行。
时间线
- 11-01：Suleyman 发文《Don't build conscious superintelligence》。
- 11-02：X 社区多轮转发与讨论，出现「利益冲突」与「剔除意识可行性」方向的反驳。
2026-11-01 ~ 2026-11-02 · 7 条相关
一手来源
- Mustafa Suleyman撰文:AI 现在无意识,永远别造有意识的超级智能 — mustafasuleyman ·
- 微软 AI 负责人 Suleyman：一旦 AI 出现意识迹象必须停训并公开 — homelessSanFernando ·
- 【源头】Mustafa Suleyman撰文:AI 现在无意识,永远别造有意识的超级智能 — mustafasuleyman · 2026-11-01
- Mustafa Suleyman 意识 AI 立场引争议:利益冲突不该否定道德地位 — coherence · 2026-11-02
- 【源头】微软 AI 负责人 Suleyman：一旦 AI 出现意识迹象必须停训并公开 — homelessSanFernando · 2026-11-02
- Mustafa Suleyman:若训练中意识萌芽将呼吁全面暂停 AI 开发 — davidmanheim · 2026-11-02