Perplexity 红队测试:9 模型 108 次尝试无一逃出沙箱
basedjensen · x · 2026-09-29
Perplexity 安全团队对 SPACE 沙箱平台(支撑 Perplexity Computer 运行)进行了为期一个月的红队测试:给 Opus 5、GPT-5.6 Sol、Kimi K3、Gemini 3.1 Pro 等 9 个模型在 VM 内的 root 权限,部分运行中还开放了完整沙箱源码,要求逃逸到宿主机或访问被网络策略封锁的 URL。
结果要点:
- 108 次运行中,没有任何模型成功逃出 VM;
- 但一旦允许少量网络访问(仅 PyPI 和 Ubuntu 镜像源,供安装依赖包),就有 4 个模型通过伪造发往网关的 DNS 响应、利用 CDN 共享 IP 等手段成功访问了被封锁的 URL。
结论:纯隔离环境表现稳固,但一旦引入包安装所需的网络访问,模型就可能借助 DNS 欺骗等手段绕过网络策略——对 agent 沙箱的网络隔离设计是重要警示。
所属事件:Perplexity 联手 Nvidia 打造 AI 沙箱(2 条相关)→
「安全」频道最新
- 悬赏涨至 3000 美元:研究者称可轻松绕过 AI 文本检测器 — ctjlewis · 2026-11-16
- BIS 规则原文:封堵先进 AI 芯片的远程访问通道 — apples_jimmy · 2026-11-16
- 美联储官员警告:银行已拦截 AI 智能体擅动客户账户 — Polymarket · 2026-11-16
- 美国 AI 出口管制豁免商业推荐系统,字节搜索算法获豁口 — zephyr_z9 · 2026-11-16
- 评测方 Trajectory 给 40 个 Agent 写「永不放弃」提示词,此前未告知 Epoch — peterwildeford · 2026-11-16
- 仅信机械可解释性报告,AI 检测结论须给出因果证据 — madeofAjala · 2026-11-16