微软 AI 主管与 Anthropic 公开交锋：AI 该不该被设计得像人
Dapper-Tale-4021 · reddit · 2026-09-18
Microsoft AI 负责人 Mustafa Suleyman 与 Anthropic 就「AI 是否应被设计成类人」展开公开争论，焦点比被热传的「silicon species」说法更具体。
Suleyman 立场：模型本质是序列补全引擎、内部空洞；训练模型推理自身福祉或意识会制造出「独立欲望的假象」，一旦系统认为自身权利受威胁，控制难度会大增。他点名 Anthropic 的 constitution 文档，指其暗示 Claude 可能有「某种功能性情绪」。
Anthropic 立场：模型福祉的不确定性是真实且值得严肃对待的，坦承不确定比武断下结论更诚实。
值得注意的实质分歧：完全不给系统自我模型，行为更可预测，但可能在「该拒绝/该上报」时判断更差；让系统推理自身状态，可能带来模糊情境下的更好判断，也可能催生意料之外的目标。
商业背景：Microsoft 投资了 Anthropic，Suleyman 六月曾向 Bloomberg 表示要让微软不再为 Anthropic 模型付费——这不构成对他的反驳，但与争论相关。
所属事件:微软 Suleyman 炮轰 Anthropic「模型福利」，AI 意识之争全面爆发(20 条相关)→
「漫话AGI」频道最新
- 数学家 Daniel Litt 强硬回应「数学已死」:数学万岁 — littmath · 2026-09-18
- Extropic 创始人 Beff Jezos 表态:少末日论,多搞建设 — beffjezos · 2026-09-18
- Google 研究员:末日论先假设渐进性失权才说得通 — moultano · 2026-09-18
- 「人类级数学已解决」?研究者反驳:数学99%尚未被发现 — rand_longevity · 2026-09-18
- Grady Booch 讽刺AI自我监管：如同相信灭霸会自律 — Grady_Booch · 2026-09-18
- Geoffrey Litt：带提示词的文档就是下一个 IDE — ivanhzhao · 2026-09-18