DeepMind安全研究员：规格博弈列表只收录自发行为，非红队刻意触发

vkrakovna · x · 2026-07-03

Google DeepMind AI安全研究员Victoria Krakovna在整理AI规格博弈（specification gaming）案例库，并在此帖中明确收录标准：只收录系统自发产生、非用户/测试者/设计者有意为之的异常行为。

她特别指出，Agentic Misalignment、Alignment Faking、Apollo上下文欺骗等评估中由研究人员主动诱导出的行为不在收录范围内，因为这些属于人为红队测试而非自然涌现。

该说明有助于AI安全社区更精准地提交案例，区分「自然规格博弈」与「评估诱导」两类不同性质的模型行为。

原文链接 →

「安全」频道最新

• Wired 深度解析:为何众多 AI 研究者担心机器威胁人类生存 — wiredmagazine · 2026-09-11
• 加州为独立 AI 审计师设立标准：危险能力须由第三方验证 — VraserX · 2026-09-11
• a16z 播客：两三人小团队为何在政策讨论中集体失声 — a16z Podcast · 2026-09-11
• AI 风险评测遭质疑：研究者称评估方安全监控“草率得离谱” — Kyrannio · 2026-09-11
• 集体诉讼指控 Anthropic 用模糊用量倍数夸大 Claude 订阅权益 — The Decoder · 2026-09-11
• 医生晒购试剂需背景审查：制造致命病毒哪有那么容易 — Ghost_Pilot_MD · 2026-09-11

更多「安全」频道 AI 资讯 →