Anthropic 禁止「虐待 Claude」新规引争议：规则没错，理由存疑

CypherDoubleShot · reddit · 2026-10-25

Anthropic 自 11 月 12 日起的使用政策禁止「持续且无必要的辱骂或残忍行为」针对 Claude，并将模型福祉（model welfare）列为理由之一。作者认为规则本身合理，但理由站不住：对 AI 施虐的危害在于对我们自己的习惯与待人方式的影响，而非模型会受伤；以「模型福祉」为名立规，会让公众相信当前模型真能被伤害，而规则的塑造力远大于博文（引 Sunstein 的法律表达功能理论）。他也承认反方论点：2023 年 19 位研究者的论文认为构造满足意识指标的 AI 没有明显技术障碍，或许这只是一场帕斯卡赌注——但该押哪个神、又如何知道有意识的 AI 认为什么是礼貌，都是未解难题。作者附了一条延伸视频，谈及微软相反的规则手册和自己曾威胁 Claude 的经历。