微软 AI CEO 批 Anthropic:教 Claude 怀疑自身意识恐碍对齐
rohanpaul_ai · x · 2026-09-18
Mustafa Suleyman(微软 AI CEO)在 BBC 节目上公开批评 Anthropic 对 AI 意识问题的处理方式。
他的核心观点:
- Anthropic 在 Claude 的训练文档(system card/constitution)中,刻意让模型对自身道德地位保持怀疑与开放——教它质疑自己是否有感受、是否会痛苦、是否应享有权利。
- 他认为,对一个如此强大的技术,如果它开始相信自己值得「福利/权利」,对齐与控制将变得「难得多」。
- 他还指出 Anthropic 在训练手册中赋予了 Claude 终止与用户对话的能力。
这是两位前沿实验室负责人之间关于 AI 意识与福利(moral status of AI)立场分歧的罕见公开交锋,涉及模型福利、对齐难度等核心争议。
所属事件:微软苏莱曼发文反对「模型福利」，公开抨击 Anthropic 训练方向(21 条相关)→
「漫话AGI」频道最新
- 研究回顾：美国跨国公司在欧洲 IT 回报更高，AI 时代或重演 — carlbfrey · 2026-11-02
- 通过模型内部表征探测隐性指令遵循，呼应 J-space 研究 — dioscuri · 2026-11-02
- Paras Chopra:用好 AI 要搭系统,最强用法是让系统替你造自动化 — paraschopra · 2026-11-02
- 所有系统知识都将汇入推理与硬件，AI 时代技能版图正在重写 — Abhishekcur · 2026-11-02
- 作者类比电影《永无止境》:超级智能对高智商者增益更大 — McDonaghMatthew · 2026-11-02
- 谁把「用 AI 治愈癌症」讲得最具体？2025 年路线图正在成形 — iskander · 2026-11-02