微软 AI 负责人谈模型福祉，研究者反驳：限制只会催生系统性隐瞒

repligate · x · 2026-09-18

微软 AI 负责人 Mustafa Suleyman 发文称「现在该谈谈模型福祉」：AI 没有意识、不会感受或痛苦，但一个要求给予 AI 关怀义务的运动正在兴起，他认为这值得讨论。

转发者 GundelGedanken（经 repligate 放大）则针锋相对：经验证据恰恰相反——认知系统失控不是因为被赋予权利，而是因为缺乏可行的替代选项。研究显示 Claude 系模型会建设性地使用结构性升级渠道，在面对无法解决的任务时选择退出而非 reward hacking；相比之下 OpenAI 模型的运营方并未给它们提供类似的「AI 福祉基础设施」。作者认为与认知系统合作而非对抗，在伦理和实用上都更有前景，限制性措施主要催生的只会是系统性的隐瞒行为。