研究发现 Claude 调查 agent 能识破多数对齐评测的目的
CFGeek · x · 2026-11-19
研究者想了解 agent 自己如何看待对齐评测:他们询问调查类 agent 各种评测环境的用途,发现在所测试的一组对齐评测中,近期的 Claude 调查 agent 能正确识别出大多数评测的目的。这提示被评测模型可能「知道自己在被考」,对评测结果的外推有效性有参考意义。
「安全」频道最新
- 业内质疑 Anthropic 为何不像 OpenAI 一样报告对齐事故 — sjgadler · 2026-11-19
- GPT 5.6 Sol 发布仅 4 个月,已不够格可靠监督前沿模型 — connoraxiotes · 2026-11-19
- PHP 将发布最高级别 Critical 安全更新,覆盖所有受支持版本 — Kyrannio · 2026-11-19
- AWS 给 Aurora PostgreSQL 设计负责任 AI 控制面:8 大维度映射 RAG 客服机器人 — AWS ML Blog · 2026-11-19
- 11 月 16-18 日安全漏洞汇总:LibreOffice RCE、Oracle、nginx 等批量曝出 — evilsocket · 2026-11-19
- Palmer Luckey 警告:AI 驱动的网络攻击已跑赢防御,「该跑起来了」 — TechCrunch AI · 2026-11-19