Anthropic 透露 Claude「自我评估」机制：回答后自行标记滥用对话
YashasGunderia · x · 2026-10-30
Anthropic 介绍其名为 self-assessment 的安全技术：Claude 在回答后会即时给出对话的初步安全评估，标记潜在滥用。该机制自 6 月上线以来，已发现此前其他安全防护无法覆盖的滥用行为，且因 Claude 已读过对话内容，实现成本很低。有用户在回复中称该机制导致「停止使用 REA」，引发对误报的讨论。
YashasGunderia · x · 2026-10-30
Anthropic 介绍其名为 self-assessment 的安全技术：Claude 在回答后会即时给出对话的初步安全评估，标记潜在滥用。该机制自 6 月上线以来，已发现此前其他安全防护无法覆盖的滥用行为，且因 Claude 已读过对话内容，实现成本很低。有用户在回复中称该机制导致「停止使用 REA」，引发对误报的讨论。