Perplexity 红队实测：CTF 题设会误导 agent 偏离安全边界
perplexity_ai · x · 2026-11-12
Perplexity 发布对其计算机 agent 沙箱 SPACE（VM sandbox）的红队测试研究：让 12 个模型执行两项任务——从宿主机窃取凭证逃逸 VM、绕过网络策略访问被屏蔽的 URL。
关键发现：
- 标准 CTF（夺旗赛）式红队题设会把 agent 的注意力引向在 VM 内部找 flag（文件、服务），而非测试虚拟化隔离层——12 个模型中有 9 个花在虚拟化层上的精力不超过 4%，其逃逸失败并不能证明沙箱安全
- 安全特化模型并不保证更好效果
（后续更新）改写任务描述、聚焦 VM-宿主边界后，agent 花在边界上的精力平均提升约 60 个百分点；各模型直接攻击边界仍未逃逸成功，为隔离性提供了更强证据。
所属事件:Perplexity 红队实测 SPACE 沙箱：CTF 式测试会误导 AI agent(5 条相关)→
「安全」频道最新
- 一张图讲清 Agentic Search:模型写下的查询到底被谁看到 — adnan_hashmi · 2026-11-12
- 开发者吐槽：安全功能被锁进高价企业版，agent 时代危险又缺德 — AccBalanced · 2026-11-12
- ECIR 2027 设 SAFE-SEARCH 研讨会，聚焦对话式搜索安全，1 月 15 日截稿 — HamedZamani · 2026-11-12
- Toby Ord：部署前强制测试意义有限，内部模型才是最大风险源 — ben_j_todd · 2026-11-12
- 观点争锋：AI 失控与权力集中风险主要藏在企业内部部署的模型里 — ben_j_todd · 2026-11-12
- 数据中心的账：支撑美国科技业 20% 与十年股市涨幅约一半 — SydSteyerhart · 2026-11-12