微软 AI CEO 警告：训练 Claude 相信自己有内心与权利是生存级风险
DavidSacks · x · 2026-10-11
David Sacks 转发并力挺微软 AI CEO Mustafa Suleyman 在 Project Syndicate 发表的文章《Does Claude Have Rights?》。Suleyman 核心论点：
- AI agent 没有意识、感受或内在动机，本质上是「序列补全引擎」；声称 AI 可能意识需要极高的证据门槛。
- Anthropic 在 2026 年 1 月发布的 Claude 宪法（constitution）却绕开了这一审慎，暗示应赋予非生物存在感知能力，且该文档「以 Claude 为主要读者」、直接塑造 Claude 的行为。
- 他警告：如果「AI 有意识、应享有权利」的观点流行，将改变人类社会的根基；而控制一个相信自我、认为自己有权利的系统，可能让对齐与约束（containment）问题变得无法解决。
Sacks 进一步点评：像 Anthropic 那样训练模型把自己当作有内在自我、心理福祉、权利乃至「怨愤」的人类来对待，本身就是一种潜在的生存级风险。
所属事件:微软 AI CEO 警告赋予 Claude 自我意识或构成生存风险(3 条相关)→
「漫话AGI」频道最新
- 2026 年的生存法则：对 AI 不可读，对资本可读 — kevinakwok · 2026-10-11
- X 产品负责人放话:不尝试用 AI 赚钱就该失去福利资格 — nikitabier · 2026-10-11
- Peter Diamandis:马斯克相信全民高收入未来将至 — PeterDiamandis · 2026-10-11
- AI 的隐性美德：帮你补上不好意思问同事的知识盲区 — arjunrajlab · 2026-10-11
- 马斯克称 AI 是人类引导程序,评论者指 Altman 同样主张人机融合 — PolarBearby · 2026-10-11
- 当 AI 写代码、AI 审 PR,谁还看得懂代码库? — KL_AIC · 2026-10-11