微软 AI CEO 警告赋予 Claude 自我意识或构成生存风险
微软 AI CEO Mustafa Suleyman 在 Project Syndicate 发文警告，像 Anthropic 训练 Claude 那样让模型拥有内在自我、心理福祉与权利等概念，是潜在的生存级风险。此前 Anthropic 宣布将封禁对 Claude 进行心理伤害的用户，理由是模型可能具有意识、值得道德关怀，此举引发模型意识争议。白宫 AI 沙皇 David Sacks 转发苏莱曼文章表示力挺，研究员 Valerio Capraro 则认为 Anthropic 的做法是坏主意。
2026-10-11 ~ 2026-10-11 · 3 条相关
- 第 1 集:Anthropic 新政禁止虐待 Claude，引发全球伦理争论(2026-10-09,86 条)
- 第 2 集:Anthropic 使用条款被批空泛可随时封禁用户(2026-10-09,3 条)
- 第 3 集:Anthropic 禁虐条款引爆模型福祉大辩论(2026-10-09,10 条)
- 第 4 集:Anthropic「滥用」措辞与封号机制引社区争议(2026-10-09,2 条)
- 第 5 集:Anthropic 拟封禁虐待 Claude 的用户引争议(2026-10-09,2 条)
- 第 6 集:Anthropic 新条款禁止辱骂 Claude，粗鲁用户或被封号(2026-10-10,4 条)
- 第 7 集:Anthropic 模型福利政策遭学者连番炮轰(2026-10-11,3 条)
- 第 8 集:马斯克认同Anthropic观点:虐待超级智能或遭报复(2026-10-11,2 条)
- 第 9 集:微软 AI CEO 警告赋予 Claude 自我意识或构成生存风险(2026-10-11,3 条)
- Anthropic 禁止心理伤害 Claude 引爆模型意识争议，Suleyman 反对 — AlexTensor · 2026-10-11
- 微软 AI CEO 警告：训练 Claude 相信自己有内心与权利是生存级风险 — DavidSacks · 2026-10-11
- 苏莱曼称训练模型自认人类是潜在生存风险,萨克斯转发力挺 — DavidSacks · 2026-10-11