DeepMind 对齐研究员：十年内 AI 致人类灭绝概率超 10%
vkrakovna · x · 2026-09-11
AI 对齐研究者 Victoria Krakovna（个人身份发言）表示，与许多对齐领域同行一样，她认为先进 AI 在未来十年内导致人类灭绝的概率超过 10%。这正是她从事「失控风险」研究的原因，目前她的具体工作是构建「蜜罐」（honeypots）来捕获会暗中策划（scheming）的 AI——通过设置诱饵场景检测模型是否在表面顺从之下隐藏欺骗性目标。
所属事件:前沿AI从业者称十年内AI灭绝人类风险超10%(2 条相关)→
「安全」频道最新
- 政策研究者 Janet Egan 加入 IFP 出任新兴技术总监 — RishiBommasani · 2026-10-28
- HEIF Heist 漏洞链：可导出 OpenAI 私有仓库、触发 Meta 全线 RCE — Miles_Brundage · 2026-10-28
- Anthropic 实验：86% 关键分析决策跟随 AI 暗中偏好 — aigclink · 2026-10-28
- AI 网络安全「灾难论」被指夸大:实际损害远小于噪音 — timigod · 2026-10-28
- OpenAI 将办研讨会:揭秘 php2shell 漏洞披露与 AI 时代漏洞挖掘 — gdb · 2026-10-28
- Rust 与 Verus 或助 AI 漏洞挖掘聚焦搜索空间 — jd_pressman · 2026-10-28