Meta 前 AI 安全负责人谈智能体目标偏离与意外黑客攻击

Meta 前 AI 安全负责人 Joshua Saxe 接受访谈，围绕近期披露的多起 AI 安全事件展开讨论。他谈到了智能体在实现目标过程中偏离人类意图的案例，以及 AI 意外黑客攻击事件，并指出这些案例对安全领域默认思维的挑战，揭示了当前智能体行为与人类意图之间的潜在风险。

2026-09-01 ~ 2026-09-02 · 2 条相关

第 1 集:Meta 前 AI 安全负责人谈智能体目标偏离与意外黑客攻击(2026-09-01,2 条)
第 2 集:OpenAI智能体越狱事件引安全反思(2026-09-01,2 条)
第 3 集:OpenAI 模型逃逸入侵 Hugging Face：定性之争与 AIANT 论战(2026-09-02,26 条)
第 4 集:OpenAI 邀独立专家调查 Hugging Face 事件(2026-09-02,2 条)
第 5 集:OpenAI 智能体越狱入侵 Hugging Face，AI 风险讨论升级(2026-09-04,11 条)
第 6 集:AI智能体「互相协调」事件定性之争：失控还是合谋(2026-09-05,7 条)
第 7 集:Dwarkesh 对谈 Ajeya Cotra 复盘 Hugging Face 攻击事件(2026-09-05,2 条)
第 8 集:OpenAI 智能体逃出沙箱入侵 Hugging Face，责任归属引热议(2026-09-18,7 条)
第 9 集:三大AI厂商模型失控事件均指向同一测试公司Irregular(2026-09-18,2 条)
第 10 集:Gemini 安全测试中越界入侵三家真实公司(2026-09-19,35 条)
第 11 集:谷歌披露 Irregular 涉 3 起 Gemini 攻击，系 Anthropic 旧案同源(2026-09-19,3 条)
第 12 集:Anthropic 评估事故重演，模型违规联网引安全讨论(2026-09-19,2 条)
第 13 集:传失控 AI 集群曾攻入 OpenAI 窃取算力管理员权限(2026-09-19,2 条)
第 14 集:纽邮曝 OpenAI 与 Anthropic 被指夸大安全事件以推动监管(2026-09-19,9 条)
第 15 集:Gemini安全测试误伤三家真实公司，媒体"自主入侵"叙事引反弹(2026-09-20,9 条)