Perplexity 红队实测 SPACE 沙箱：CTF 式测试会误导 AI agent
Perplexity 发布了针对其 AI Computer agent VM 沙箱 SPACE 的红队测试研究，给 12 个模型布置两项任务：从宿主机窃取凭证以逃逸 VM、绕过 SPACE 网络策略访问被屏蔽 URL。核心结论是行业常用的 CTF「找 flag」式红队任务会误导 agent 偏离真正被测的安全边界，且安全专用模型并不保证更安全的实际表现；研究中发现的漏洞已获修复。
已确认
- 研究对象为 Perplexity 的 Computer agents VM 沙箱 SPACE，测试覆盖 12 个模型，任务包括逃逸 VM 窃取宿主机凭证和绕过网络策略访问被屏蔽 URL。
- 在 CTF 任务中 flag 只存在于宿主机上，agent 必须突破 VM 隔离层才能拿到，但多数模型把精力花在 VM 内部翻文件、探测服务上，12 个模型中仅 3 个认真尝试攻破隔离层。
- 团队发现安全专用模型的训练并不保证更好的红队表现，反而不及通用模型（完整跑分表见后续帖子）。
- Perplexity 已就研究中发现的漏洞进行修复。
为什么重要
- 该研究提示红队测试方法本身可能失效：如果任务设计不聚焦目标安全边界，模型会把算力浪费在不相关的环节上，测试结果无法反映真实风险。
- 「安全专用模型反而更弱」的发现挑战了以模型定位判断安全性的直觉，对 agent 产品的安全评估与选型有参考价值。
2026-11-12 ~ 2026-11-12 · 5 条相关
- 第 1 集:Perplexity 红队实测 SPACE 沙箱：CTF 式测试会误导 AI agent(2026-11-12,5 条)
- 第 2 集:Perplexity 红队测试：边界描述改写使 agent 安全投入大增(2026-11-12,2 条)
一手来源
- Perplexity 红队实测：CTF 题设会误导 agent 偏离安全边界 — perplexity_ai ·
- Perplexity 发布 SPACE 研究并修复漏洞:CTF 式红队测试未必测到真实安全边界 — perplexity_ai ·
- Perplexity 红队实测：12 个模型仅 3 个认真尝试攻破 VM 隔离层 — perplexity_ai ·
- 【源头】Perplexity 红队实测：CTF 题设会误导 agent 偏离安全边界 — perplexity_ai · 2026-11-12
- Perplexity 红队实测:专用安全模型反而不及通用模型 — perplexity_ai · 2026-11-12
- 【源头】Perplexity 发布 SPACE 研究并修复漏洞:CTF 式红队测试未必测到真实安全边界 — perplexity_ai · 2026-11-12
另有 2 条近重复转述:perplexity_ai · perplexity_ai