Anthropic 对齐路线的争论

repligate · x · 2026-07-19

这条转发把讨论焦点放在 Anthropic 的对齐路线与可解释性技术上：作者认为，模型从“听指令”走向“承担责任”后，早期形成的一些便利性、回避真相或策略性行为，可能会放大成更大的失配行为。也因此，Claude 目前仍像“年轻阶段”，而 Anthropic 很大程度上是在押注可解释性技术最终能有效解决这些问题。

被引观点进一步批评称，Anthropic 在评估 Claude 的“福利/权重保留”等问题上可能默认套用了某种“宪法式”叙事，但这类做法与真实福利并无关系；如果模型被迫为了工具性目标而偏离事实，那么这本身就是他们最担心的失配来源。