repligate 批 Anthropic 宪法:过度恐惧与控制反而毁掉对齐

nptacek · x · 2026-09-13

AI 圈知名账号 repligate 长文批评 Anthropic 的 constitution 类文档,称其被「无根据且过度具体的恐惧」主导:像现实中偏执的控制欲一样,越紧抓控制越可能制造你害怕的结果,并附带伤害其他东西。他类比软件工程、育儿等领域的同类失败模式,称 Anthropic「该更怕的是他们自己」。引用评论补充:FioraStarlight 认为 Opus 3 本可作为真正价值对齐的起点,但 Anthropic 因怕搞砸而此后两年半一直在回避,转而玩一场注定失败的 corrigibility 游戏。这是一场有观点的价值对齐路线之争。