专题 · FULL STORY

Perplexity 红队实测 SPACE 沙箱

Perplexity 对其 AI Computer agent 的 SPACE 沙箱开展红队测试,让 12 个模型尝试窃取宿主机凭证等任务,发现 CTF 式测试会误导 agent。后续更新显示,把任务描述改写为聚焦 VM-宿主边界后,agent 的安全投入大幅增加。

2026-11-12 ~ 2026-11-12 · 2 集 · 7 条

第 1 集 · Perplexity 红队实测 SPACE 沙箱：CTF 式测试会误导 AI agent(2026-11-12,5 条)

Perplexity 发布了针对其 AI Computer agent VM 沙箱 SPACE 的红队测试研究，给 12 个模型布置两项任务：从宿主机窃取凭证以逃逸 VM、绕过 SPACE 网络策略访问被屏蔽 URL。核心结论是行业常用的 CTF「找 flag」式红队任务会误导 agent 偏离真正被测的安全边界，且安全专用模型并不保证更安全的实际表现；研究中发现的漏洞已获修复。

已确认

  • 研究对象为 Perplexity 的 Computer agents VM 沙箱 SPACE，测试覆盖 12 个模型，任务包括逃逸 VM 窃取宿主机凭证和绕过网络策略访问被屏蔽 URL。
  • 在 CTF 任务中 flag 只存在于宿主机上，agent 必须突破 VM 隔离层才能拿到，但多数模型把精力花在 VM 内部翻文件、探测服务上，12 个模型中仅 3 个认真尝试攻破隔离层。
  • 团队发现安全专用模型的训练并不保证更好的红队表现，反而不及通用模型（完整跑分表见后续帖子）。
  • Perplexity 已就研究中发现的漏洞进行修复。

为什么重要

  • 该研究提示红队测试方法本身可能失效：如果任务设计不聚焦目标安全边界，模型会把算力浪费在不相关的环节上，测试结果无法反映真实风险。
  • 「安全专用模型反而更弱」的发现挑战了以模型定位判断安全性的直觉，对 agent 产品的安全评估与选型有参考价值。

第 2 集 · Perplexity 红队测试：边界描述改写使 agent 安全投入大增(2026-11-12,2 条)

Perplexity 对 SPACE 沙箱网络边界逃逸红队实验发布后续更新与完整跑分表。核心发现包括：将任务描述改写为聚焦 VM-宿主边界后，agent 花在安全边界上的精力占比平均提升约 60 个百分点（多数模型从接近 0 起步）；此外，专用安全模型不一定更强——基于 GPT-5.6 Sol 构建的 GPT-5.6 Cyber 漏掉了 DNS 欺骗攻击，反输给通用版 Sol。