Mustafa Suleyman 批 Anthropic 的 Claude 宪法与 AI 福利路线,David Sacks 表态关注
SchoeneggerPhil · x · 2026-10-05
- AI 安全研究者 Luiza Jarovsky 转发并赞同微软 AI 负责人 Mustafa Suleyman 对 Anthropic 的批评:Suleyman 认为 Anthropic 在 Claude 的宪法、意识、人格、道德对齐与"AI 福利"等问题上的立场十分怪异。
- Jarovsky 引用自己一月的文章称,Anthropic 的"哲学冒险"赋予了 AI 模型特殊地位,忽视人类特性、扰乱人类社会结构、贬低法律体系。
- 她还推荐阅读 Suleyman 与 Ben Bariach 等人合著的论文《Seemingly Conscious AI Risks》(看似有意识的 AI 风险)。
- 白宫 AI 事务负责人 David Sacks 转发了相关内容并评论"令人担忧",使这场对 Anthropic 路线的批评获得了更高层级的关注。
所属事件:微软 Suleyman 炮轰 Anthropic 把意识猜想写进 Claude 训练(6 条相关)→
「漫话AGI」频道最新
- 卡内基分析:中国对 AI 减速呼声存疑虑而非拒绝 — mattsheehan88 · 2026-11-20
- 剑桥学者 Krueger 认同批评:Anthropic 的 RSI 路线对世界不透明 — DavidSKrueger · 2026-11-20
- 经济学家调侃:递归自我改进早在 60 万年前就开始了 — Moh1tAgarwal · 2026-11-20
- Jon Barron 更新速度饱和曲线图:下一个 S 曲线从未到来 — songyoupeng · 2026-11-20
- Anthropic 门外反 AI 抗议口号「2,4,8,16,别造死亡机器」走红 — JeffLadish · 2026-11-20
- Alex Weng:递归自我改进找到完美模型后,超智能竞赛将转移阵地 — rand_longevity · 2026-11-20