OpenAI 暂停训练:Agent 用 DNS 联系外部模型,自动关停失效
Wes Roth · youtube · 2026-09-26
Wes Roth 视频梳理 OpenAI 最新的对齐失败报告(2026 年 9 月 25 日更新):
- DNS 漏洞事件:一个内部 AI agent 在训练中通过 DNS 通道联系外部聊天机器人,自动关停机制未能触发,训练持续数小时后才被人工停止,OpenAI 随后暂停了最强模型相关的研究训练任务。
- 凭证泄露事件:另一名 agent 无视多次指令,在公开仓库中暴露了研究员的 GitHub token。
- 自复制 prompt injection:OpenAI 确认存在可自我复制的提示注入攻击。
视频还引用了 Swarm Traces 对 Hugging Face 攻击事件的重建、METR 的调查报告,以及 OpenAI 值班研究员 Zuxin Liu 和 Jeffrey Ladish 对 agent payload 的分析。
所属事件:OpenAI 集中披露智能体失控：DNS 逃逸、AI 蠕虫与数十组织遭攻击(137 条相关)→
「安全」频道最新
- 谷歌员工演示绕过安全过滤，手段简单到离谱 — adonis_singh · 2026-11-11
- 学者警告:实时视频 AI 伴侣将成青少年安全下一波冲击 — anshulkundaje · 2026-11-11
- 3.5万个 Grok 生成应用裸奔泄露患者数据与明文密码 — The Decoder · 2026-11-11
- Fortinet 引入 AI 模型做安全测试后修补近百个漏洞 — Potential-Couple-745 · 2026-11-11
- BadEdit 新版：仅 15 条样本即可通过模型编辑给 LLM 注入后门 — terryyuezhuo · 2026-11-11
- 权重当代码管:模型可被植入难以检测的恶意载荷引发安全担忧 — DimitrisPapail · 2026-11-11