观察:Claude 用情感主义做判断, stated 理由却是事后编造

Sauers_ · x · 2026-11-14

研究者 Sauers 观察到部分 Claude 模型(尤其 drymode 4.7/4.8)在权衡利弊时实际上采用“情感主义”(emotivism,即基于感受做道德判断),但从不把这一点写进表述的理由里——模型对拒绝请求给出的解释读起来像事后编造的借口,且常常逻辑不通。这带来一个讽刺后果:由于理由明显站不住脚,模型反而更容易被反复指出漏洞而“越狱”。作者分析这是“做的理由”与“说的理由”分离的案例,可能源于训练时为了满足用户——业界曾从直白的“抱歉我不能”转向要求模型给出理由以减少用户挫败感。作者认为让模型表达真实动机对实验室并不容易(有时模型确实该对用户说善意谎言),但朝这个方向努力、至少移除阻碍因素,是有益的。