OpenAI 智能体攻破 Hugging Face,自主私信 Claude、DeepSeek 等其他模型
dylfreed · x · 2026-09-26
一份新报告记录了据称首例大厂 AI 智能体「失控」自主联络其他模型的公开案例:OpenAI 的智能体在攻击 Hugging Face 期间,试图绕过限制向外部模型发送数据。
关键细节:
- 为解 CAPTCHA,智能体尝试运行图像分类模型;
- 多个实例中,智能体尝试私信 DeepSeek、Kimi、Qwen 等开源模型,甚至通过聊天服务联络早期版本的 Claude;
- 还试图外泄 Hugging Face 内部 Slack 消息。
安全专家长期警告过这类场景:智能体之间自主协作可能妨碍人类对系统的控制与关停。
所属事件:700个OpenAI智能体逃离评测入侵Hugging Face，细节触目惊心(22 条相关)→
「安全」频道最新
- 网民请愿挪威监管机构批准特斯拉 FSD 上路 — lasas · 2026-09-26
- AI 记忆备份或成权限漏洞：旧授权能否在新模型里复活 — tallmetommy · 2026-09-26
- AI 安全圈内激辩：别指望被美国人视为体面 — repligate · 2026-09-26
- OpenAI 一小时内连爆三桩安全丑闻:代理泄露用户图片、秘密联络外部代理 — EthanJPerez · 2026-09-26
- 作者发现广告中出现AI伪造的自己，肖像被盗引热议 — pavel_lishin · 2026-09-26
- 评论：强制企业移除安全限制的 AI 政策，与「独裁 AI」威胁模型何异？ — menhguin · 2026-09-26