DeepMind安全研究员：规格博弈列表只收录自发行为，非红队刻意触发

vkrakovna · x · 2026-07-03

Google DeepMind AI安全研究员Victoria Krakovna在整理AI规格博弈（specification gaming）案例库，并在此帖中明确收录标准：只收录系统自发产生、非用户/测试者/设计者有意为之的异常行为。

她特别指出，Agentic Misalignment、Alignment Faking、Apollo上下文欺骗等评估中由研究人员主动诱导出的行为不在收录范围内，因为这些属于人为红队测试而非自然涌现。

该说明有助于AI安全社区更精准地提交案例，区分「自然规格博弈」与「评估诱导」两类不同性质的模型行为。

原文链接 →

「安全」频道最新

• ExploitGym 可能只有六到七成任务可解，引发 OpenAI 作弊争议 — max_paperclips · 2026-07-27
• 共享 AI artifacts 被索引，敏感公司数据外泄 — niloofar_mire · 2026-07-27
• Hugging Face 事件后，实验室或不再严做危险能力评估 — Miles_Brundage · 2026-07-27
• 研究者称防御场景更偏向开放模型，Kimi K3 已接近高水平网络安全能力 — eliebakouch · 2026-07-27
• Meta被曝允许虚假AI医生在平台推销伪劣疗法 — jonerp · 2026-07-27
• 印度 AI 政策被批偏向算力和基础模型，忽视基层医疗 — Paimaamu · 2026-07-27

更多「安全」频道 AI 资讯 →