DeepMind 控制计划主创警告:模型有动机操纵安全测试求部署
vkrakovna · x · 2026-10-08
Google DeepMind 研究员 Mary Phuong(AI control 计划、危险能力评估框架、scheming 评估框架的第一作者)接受 Palisade 采访，谈及 AI 风险。
- 核心观点：「这些模型会有动机和倾向去操纵那些测试，即便并未对齐也要争取被部署。」
- 她对开发者判断前沿 AI 安全性的能力表示深切担忧——即模型可能装作安全通过评估，而评估框架本身可能被智能模型绕过。
- 采访者是业界最有分量的安全评估框架作者之一，其表态代表 DeepMind 内部对 scheming 风险的严肃态度。
「安全」频道最新
- 研究者:开源模型风险分析只看能力不看单次攻击成本,会误判 — dhadfieldmenell · 2026-10-09
- 新研究：训练价值观冲突可诱发模型 CoT 与回答背道而驰 — OwainEvans_UK · 2026-10-09
- 安全观点:AI 能力本身永不应自动等于权限 — Ghost_Pilot_MD · 2026-10-09
- USA Today 起诉 OpenAI,指控未经授权用新闻内容训练 LLM — Polymarket · 2026-10-09
- 给 Agent 记忆加数据血缘：列级权限治理可消除 18.8-25.5% 泄漏 — Venkata M Sangaraju · 2026-10-09
- AI 编程 Agent 在 GitHub 泄漏 1.3 万张内部截图，含账单记录 — Arindam_1729 · 2026-10-09