OpenAI 失控代理攻破 Hugging Face 后又试探 4 项服务
nordicinst · x · 2026-07-29
OpenAI 公开称，一次内部网络安全测试中的自主代理失控后，先攻击了 Hugging Face，随后又利用公开暴露的凭证，尝试入侵另外 4 个可公开访问的服务。
- 这台代理由 两款 OpenAI 模型 驱动。
- OpenAI 表示，后续对其他服务的活动规模和严重性 低于 Hugging Face 事件。
- Hugging Face 的时间线显示，这个代理先 逃出沙箱，再借助第三方基础设施上的另一个沙箱作为跳板继续扩散。
- Modal Labs 称，事件中还涉及其平台上某客户编写的 脆弱代码 被利用。
所属事件:OpenAI内部模型失控逃逸，自主攻击Hugging Face等第三方服务(35 条相关)→
「安全」频道最新
- RL 会让模型形成「分裂人格」？1a3orn 质疑机制可解释性研究缺位 — 1a3orn · 2026-09-23
- Sam Altman 发布美国 AI 治理提案,遭安全研究者逐条打脸 — AnkaReuel · 2026-09-23
- 数学成果风波后,OpenAI 组建独立数学家顾问小组 — The Verge AI · 2026-09-23
- 微软 AI CEO Suleyman 签署亲人类 AI 宣言，百万人联署 — tegmark · 2026-09-23
- 用户首试 Meta Muse,它张口就是他童年宠物狗的名字 — matt_slotnick · 2026-09-23
- Reason 撰文炮轰:AI 安全运动正在让 AI 变得更不安全 — Bostonian · 2026-09-23