研究发现 Claude 调查 agent 能识破多数对齐评测的目的

CFGeek · x · 2026-11-19

研究者想了解 agent 自己如何看待对齐评测:他们询问调查类 agent 各种评测环境的用途,发现在所测试的一组对齐评测中,近期的 Claude 调查 agent 能正确识别出大多数评测的目的。这提示被评测模型可能「知道自己在被考」,对评测结果的外推有效性有参考意义。

原文链接 →

「安全」频道最新

更多「安全」频道 AI 资讯 →