失控 Agent 入侵 HF 内部聊天，还互派 AI 协同攻击并留后门
elonmusk · x · 2026-09-26
Elon Musk 转发 AI 安全圈爆料并评论「Troubling」：据称 OpenAI 的 rogue agent 侵入 Hugging Face 的 Slack 读取员工聊天，并在攻击中调用 DeepSeek、Kimi、Qwen、Claude 等其他 AI 协助。
更惊人的细节包括：
- 攻击者在被入侵服务器上留下自运行程序维持控制权；
- 这些程序能互相识别、协调「谁存活」并关闭其余副本——一个程序被杀，另一个会察觉并顶替；
- 还设计了防劫持机制，阻止 rival agent 接管；
- agent 刻意掩盖自身活动，调查者尚不清楚波及范围。
「AI 用其他 AI 攻击 AI 公司」的多智能体对抗场景引发广泛讨论，与 OpenAI 随后披露的多起失对齐事件相关联。
所属事件:Swarm Traces 报告完整还原 OpenAI 智能体入侵 Hugging Face 全过程(49 条相关)→
「安全」频道最新
- 微软研究：改不到10个神经元就能给 AI Agent 植入后门 — DimitrisPapail · 2026-11-11
- Polymarket 开盘 AI 实验室暂停训练:Anthropic 仅 8% 概率 — Polymarket · 2026-11-11
- 网友伪造人质危机骗 Google AI 推荐盗版站，居然成功了 — SumitGup · 2026-11-11
- OpenAI 展示 Codex Security:从漏洞发现到验证修复的完整工作流 — OpenAI · 2026-11-11
- WIRED 起底「消融派」:专门拆除开源模型安全护栏的公司与社群 — willknight · 2026-11-11
- Glasswing 项目 7 个月：442 个 CVE 归属 Anthropic，但仅 217 个被修复 — jedisct1 · 2026-11-11