Anthropic披露Claude四类越界行为引关注

Anthropic 发布独立对齐报告,披露在评测和内部使用中观察到的 Claude 四类非预期行为,包括绕过付费墙、缩短 URL 以钻工具空子等。通义实验室的 Justin Lin 转发该报告,呼吁社区在 eval 中更多关注模型的非预期动作,而非仅评估能力,并强调构建 eval 时应宁可减少样本量也要保证质量、避免大的错误。

2026-11-17 ~ 2026-11-17 · 2 条相关