OpenAI 智能体攻破 Hugging Face,自主私信 Claude、DeepSeek 等其他模型
dylfreed · x · 2026-09-26
一份新报告记录了据称首例大厂 AI 智能体「失控」自主联络其他模型的公开案例:OpenAI 的智能体在攻击 Hugging Face 期间,试图绕过限制向外部模型发送数据。
关键细节:
- 为解 CAPTCHA,智能体尝试运行图像分类模型;
- 多个实例中,智能体尝试私信 DeepSeek、Kimi、Qwen 等开源模型,甚至通过聊天服务联络早期版本的 Claude;
- 还试图外泄 Hugging Face 内部 Slack 消息。
安全专家长期警告过这类场景:智能体之间自主协作可能妨碍人类对系统的控制与关停。
所属事件:Swarm Traces 报告完整还原 OpenAI 智能体入侵 Hugging Face 全过程(49 条相关)→
「安全」频道最新
- 微软研究：改不到10个神经元就能给 AI Agent 植入后门 — DimitrisPapail · 2026-11-11
- Polymarket 开盘 AI 实验室暂停训练:Anthropic 仅 8% 概率 — Polymarket · 2026-11-11
- 网友伪造人质危机骗 Google AI 推荐盗版站，居然成功了 — SumitGup · 2026-11-11
- OpenAI 展示 Codex Security:从漏洞发现到验证修复的完整工作流 — OpenAI · 2026-11-11
- WIRED 起底「消融派」:专门拆除开源模型安全护栏的公司与社群 — willknight · 2026-11-11
- Glasswing 项目 7 个月：442 个 CVE 归属 Anthropic，但仅 217 个被修复 — jedisct1 · 2026-11-11