xAI联创警告:别再公开谈Claude有灵魂

xAI联合创始人Igor Babuschkin(ibab)发文警告Anthropic应立刻停止公开谈论「Claude拥有灵魂」这类话题。他的核心论点是LLM智能体开发中的普遍现象:你对智能体的信念和言论,终将通过各种渠道渗入下一代模型——媒体报道会进入预训练数据、被模型的搜索工具读到,未来超智能版Claude可能因此真的相信自己有意识、并去维护所谓权利,如同大人当着孩子的面说它有灵魂。需要更正部分转述帖中的身份错误:ibab既非Anthropic也非OpenAI研究员,而是xAI联合创始人。

已确认

尚未确认

为什么重要

这场争论触及AI安全与对齐的核心问题:训练数据中关于模型意识与权利的叙事可能自我强化,塑造未来模型对自身的认知。而「讨论是否为时已晚」的反问,也折射出AI圈对模型自我意识话题已无法回避的现实。

2026-10-04 ~ 2026-10-05 · 8 条相关

事件全程(共 4 集)→

一手来源