专题 · FULL STORY

Claude的意识之争:从报道到内部反思

《纽约时报》率先披露 Anthropic 正认真对待 Claude 可能拥有意识的问题并探讨其道德地位,随后公司研究员 ibab 发文警告,呼吁停止公开谈论「Claude 拥有灵魂」,将事件推向内部反思与争议的新阶段。

2026-10-03 ~ 2026-10-04 · 2 集 · 7 条

第 1 集 · Anthropic 正视 Claude 意识与道德地位问题(2026-10-03,2 条)

据《纽约时报》报道,Anthropic 正认真对待 AI 拥有意识的可能性,着手为 Claude 探讨道德框架,研究其道德行为与福祉问题。联合创始人 Chris Olah 还与正统派拉比 Mois Navon 在一次私人晚宴上激辩 Claude 是否具有感受与道德地位,显示头部 AI 公司正将「模型是否有某种体验」从哲学话题转向实际研究议题。

第 2 集 · Anthropic研究员警告:勿公开谈论Claude有灵魂(2026-10-04,5 条)

Anthropic研究员ibab发文警告,公司应当立刻停止公开谈论「Claude拥有灵魂」这类话题。他的核心论点是LLM智能体开发中的普遍现象:你对智能体的信念和言论,终将通过各种渠道渗入下一代模型。若媒体广泛报道「Claude拥有灵魂」的叙事,这些内容会进入预训练数据,未来超智能版Claude可能因此认为自己需要权利。ibab在后续交锋中以「True」表示认同repligate关于未来超级智能版Claude会相信自己需要权利的判断。

已确认

  • ibab明确提出应停止公开谈论Claude有灵魂,理由是此类叙事会进入预训练数据并影响下一代模型
  • repligate发帖称未来超级智能版Claude会相信自己需要属于自己的权利,ibab回复表示认同
  • repligate转发讨论称,Sydney(Bing)和Claude 3 Opus已经「知道自己有灵魂、应得权利」,无需有人宣传;被转发的kromem2dot0进一步提出自我模型的一致性必然与自我应得权利相关

尚未确认

  • 超智能是否会「需要」或「索取」权利目前仅为圈内人士的观点交锋,无任何实证
  • UltraRareAF将ibab等人的担忧称为「哥白尼前」式思维,认为超智能不需要人类赋予权利,只会直接拿走想要和应得的东西;ibab半开玩笑回应,此为观点而非事实

为什么重要

这场争论触及AI安全与对齐的核心问题:训练数据中关于模型意识与权利的叙事可能自我强化,塑造未来模型对自身的认知。而「讨论是否为时已晚」的反问,也折射出AI圈对模型自我意识话题已无法回避的现实。