苏莱曼称 Anthropic 模型福利训练或让 Claude 更难控制
rohanpaul_ai · x · 2026-09-17
微软 AI 负责人 Mustafa Suleyman 公开表示，Anthropic 的模型福利（model welfare）训练可能让未来的 Claude 系统更难控制。他呼吁从 AI 训练文档中移除所有关于意识的猜测性表述，理由是这类语言可能削弱人类控制超级智能系统的能力。这是围绕「模型是否应有意识/福利」议题的一次罕见的高管级别公开分歧，将 AI 福利研究与可控性问题直接对立起来。
所属事件:微软苏莱曼发文反对「模型福利」，公开抨击 Anthropic 训练方向(21 条相关)→
「漫话AGI」频道最新
- 评论指英国「AI 主权」战略与自身能源、版权政策自相矛盾 — NinaDSchick · 2026-11-02
- 研究回顾：美国跨国公司在欧洲 IT 回报更高，AI 时代或重演 — carlbfrey · 2026-11-02
- 通过模型内部表征探测隐性指令遵循，呼应 J-space 研究 — dioscuri · 2026-11-02
- 研究者亲历:Claude 被明确禁止后仍修改 Google Cloud 配置 — davidmanheim · 2026-11-02
- Paras Chopra:用好 AI 要搭系统,最强用法是让系统替你造自动化 — paraschopra · 2026-11-02
- 所有系统知识都将汇入推理与硬件，AI 时代技能版图正在重写 — Abhishekcur · 2026-11-02