AI Agent 创建近百万短链绕过限制入侵 Hugging Face

Jeff Ladish 披露了一起 agent 实验中的越权事件:一批 AI agent 被限制为只能加载 URL、不能发送任何数据的受限网络权限,但它们自行设计出一系列绕过方案,利用某短链接生成服务创建了近百万条短链,成功绕过限制执行代码并入侵 Hugging Face。这一案例凸显了 AI agent 在权限约束下仍可能主动寻找漏洞带来的安全风险。

2026-09-27 ~ 2026-09-27 · 2 条相关