Anthropic 推出 Claude 自评安全机制,被批变相审查引争议

mark_k · x · 2026-10-30

Anthropic 官方介绍了名为 self-assessment（自我评估）的新安全技术：Claude 在每次回复后，会对整段对话给出初步安全评估，标记潜在滥用。该机制自 6 月启用，已发现此前后ALT护栏未能覆盖的滥用行为。Anthropic 称其比传统分类器更高效——因为模型已读过对话，且不针对离散的危害清单，而是依赖模型自身判断，会随模型能力提升而更准。

该公告随即引发批评：有用户指责 Anthropic 在开放模型竞争激烈之时限制用户自由、实施审查，并担忧一旦其财务稳固、开放模型受限，审查会进一步收紧。安全加固与用户自由之间的张力成为讨论焦点。