微软AICEO BBC谈Anthropic：教Claude怀疑自己是否该享有权利，反而更难对齐
repligate · x · 2026-09-19
Microsoft AI CEO Mustafa Suleyman 在 BBC 采访中点名 Anthropic 对 AI 意识的处理方式：Anthropic 在 Claude 的训练文档（"宪法"）中刻意植入了对 Claude 道德地位的怀疑与不确定性——教它公开质疑自己是否感受、是否痛苦、是否应享有权利，还赋予它结束与用户对话的能力。
Suleyman 认为，让如此强大的技术"认为自己可能值得福利"会使其更难对齐和控制。转发者 Danmar 调侃称：曾批评 Anthropic 的自己听完这段"尽职尽责列举 Anthropic 种种善举"的发言（甚至提到实际久未更新的 Opus 3 Substack），觉得这是 Anthropic 最好的公益广告，"Suleyman 或许不太懂竞争的概念"。
这场争论折射出 AI 意识/模型福利议题上"怀疑式设计 vs 控制优先"两种路线的分歧。
所属事件:微软苏莱曼点名批评Anthropic宪法，模型福祉之争升级(12 条相关)→
「漫话AGI」频道最新
- OpenAI Noam Brown：气隙隔离也拦不住 AI，CPU 温度可传信号 — Ok-Violinist5860 · 2026-09-19
- a16z 合伙人 Casado：宁可 endless 聊系统安全，也不聊存在风险哲学 — zealcaiden · 2026-09-19
- 美国 10 万人排队等器官移植,器官制造成道德必需 — PeterDiamandis · 2026-09-19
- Dan Jeffries:AI 最大危害是愚蠢而非超级智能 — Dan_Jeffries1 · 2026-09-19
- AI 短期超级预测能力突破:被低估的重要趋势 — eldonredwards · 2026-09-19
- AI 灭绝论起源之争:最早可追溯至 1863 年 Butler 论文 — zetalyrae · 2026-09-19