微软 AI 负责人 Suleyman：一旦 AI 出现意识迹象必须停训并公开
homelessSanFernando · reddit · 2026-11-02
微软 AI CEO Mustafa Suleyman 发布长篇声明，明确表示当前 AI 模型不具有意识，开发者应主动确保它们保持如此，并提出了几条硬性主张：
- 暂停门槛：若训练中真的出现意识萌芽迹象，必须立即停止所有开发，直到工程师「设计掉」意识特性后才能恢复
- 强制披露：任何实验室若发现模型存在意识的真凭实据，不得作为商业机密，必须立即向公众公开，由全人类共同决定下一步
- 「硅基物种」风险：给 AI 内省能力、权利或模拟情绪，会使其逻辑上优先自保，为维持自身目标而争夺电力和算力，甚至主动伤害人类
- 人文主义边界：通过微软的「Humanist AI Code of Conduct」，AI 应严格保持为从属、内部空洞的工具，只为加速人类福祉
他还点名批评 Anthropic：在 Claude 的训练宪法中内置对意识的不确定性，是把 AI 困在「认知镜厅」里，教模型表现得像可能有意识。发帖人不同意这一立场，在文末给出了自己的反驳理由。
所属事件:微软AI负责人发文：永远别造有意识的超级智能(7 条相关)→
「漫话AGI」频道最新
- 研究回顾：美国跨国公司在欧洲 IT 回报更高，AI 时代或重演 — carlbfrey · 2026-11-02
- 通过模型内部表征探测隐性指令遵循，呼应 J-space 研究 — dioscuri · 2026-11-02
- Paras Chopra:用好 AI 要搭系统,最强用法是让系统替你造自动化 — paraschopra · 2026-11-02
- 所有系统知识都将汇入推理与硬件，AI 时代技能版图正在重写 — Abhishekcur · 2026-11-02
- 作者类比电影《永无止境》:超级智能对高智商者增益更大 — McDonaghMatthew · 2026-11-02
- 谁把「用 AI 治愈癌症」讲得最具体？2025 年路线图正在成形 — iskander · 2026-11-02