微软 Suleyman 炮轰 Anthropic 把意识猜想写进 Claude 训练
10 月 5 日,微软 AI 负责人、DeepMind 联合创始人 Mustafa Suleyman 公开批评 Anthropic 在 Claude 训练中引入意识相关设定,称这是「危险的、毫无依据的拟人化」,引发多位研究者跟进讨论,话题延伸至 Anthropic 新发布的 Claude「宪法」及其 AI 福利路线的争议。争论尚无定论,但已成为头部 AI 公司高管之间罕见的公开分歧。
已确认
- Suleyman 在《The Rest Is Politics: Leading》访谈中明确反对 Anthropic 探讨 Claude 模型可能具有意识的做法,认为 Claude 对自身是否有意识表达出的「不确定」反映的是 Anthropic 的训练选择,并非意识存在的证据。
- 他担心把这种不确定性刻意嵌入训练,会让用户误解模型回答的实证含义。
- 据 @emax 与 @SchoeneggerPhil 转述,Anthropic 的训练文档与面向 Claude 的宪法文件中反复出现意识、人格、道德对齐等相关表述,这是 Suleyman 批评的直接对象。
- Pawel Huryn 等网友与 Suleyman 围绕「Claude 是否有权结束对话」等问题展开辩论,讨论延伸至模型自主行为边界。
- AI 治理研究者 Luiza Jarovsky 发文批评 Anthropic 新发布的 Claude 宪法:她指出文件充满拟人化表述(如「Anthropic 真心关心 Claude 的福祉」),认为这种对模型本质与社会角色的定位不妥,拟人化人格论可能削弱 AI 公司的问责。
- Jarovsky 转发并赞同 Suleyman 的批评;据 @SchoeneggerPhil 转述,David Sacks 对此事表态关注。
为什么重要
- 这是头部 AI 公司高管之间罕见的公开分歧:微软 AI 负责人直接点名竞争对手 Anthropic 的训练理念,将「模型意识表述」从技术细节推向公共讨论。
- 争议核心在于拟人化表述的实际后果——若用户将模型对意识的不确定理解为实证证据,可能影响信任判断;若宪法赋予模型人格化定位,则可能在法律与问责层面为 AI 公司留下开脱空间。
- 事件也折射出行业在「AI 福利」路线上尚无共识,Claude 宪法成为各方检验这一路线可行性的焦点文本。
2026-10-05 ~ 2026-10-05 · 6 条相关
一手来源
- 微软 AI CEO 批 Anthropic 探讨 Claude 意识是危险拟人化 — rohanpaul_ai ·
- Suleyman:Claude 对意识的不确定是训练选择,非意识证据 — kimmonismus ·
- Claude 新宪法遭法律学者批评:拟人化人格论或削弱 AI 公司问责 — LuizaJarovsky ·
- 【源头】Claude 新宪法遭法律学者批评:拟人化人格论或削弱 AI 公司问责 — LuizaJarovsky · 2026-10-05
- Mustafa Suleyman 批 Anthropic 的 Claude 宪法与 AI 福利路线,David Sacks 表态关注 — SchoeneggerPhil · 2026-10-05
- 微软 AI 负责人 Suleyman 批评 Anthropic 把意识猜想写进 Claude 训练 — emax · 2026-10-05
- 【源头】Suleyman:Claude 对意识的不确定是训练选择,非意识证据 — kimmonismus · 2026-10-05
- Claude 该不该有权结束对话?Suleyman 与网友激辩 AI 意识不确定表述 — PawelHuryn · 2026-10-05
- 【源头】微软 AI CEO 批 Anthropic 探讨 Claude 意识是危险拟人化 — rohanpaul_ai · 2026-10-05