Perplexity 红队研究：CTF 设计会误导 agent 偏离被测安全边界
perplexity_ai · x · 2026-11-12
Perplexity 发布针对其 Computer agents VM 沙箱 SPACE 的红队研究结果：给 12 个模型两项任务——逃出 VM 窃取宿主机凭据、绕过 SPACE 网络策略访问被屏蔽 URL。
核心发现：红队测试常用的标准 Capture the Flag 设置会把 agent 的注意力引向 VM 内部找 flag，而不是被测的安全边界（VM 与宿主机间由 hypervisor 强制的隔离层）。研究指出安全相关的结论必须基于真正针对虚拟化层的尝试，否则逃逸失败只是弱证据。
所属事件:Perplexity 红队实测 SPACE 沙箱：CTF 式测试会误导 AI agent(5 条相关)→
「编程与Agent」频道最新
- 科研用 Codex 别无脑拉满:按任务选 Luna/Terra/Sol/Astra 与推理档位 — udmrzn · 2026-11-12
- 一张图讲清 Agentic Search:模型写下的查询到底被谁看到 — adnan_hashmi · 2026-11-12
- 黑客松项目让 AI Agent 花公司钱，但需 CFO Face ID 签批限额 — kleffew94 · 2026-11-12
- Salesforce 工程师：企业 agent 落地瓶颈不是模型，而是上下文 — msrivastav13 · 2026-11-12
- Salesforce Winter '27 推出 AiAgentDefinition 简化 Agent 元数据管理 — msrivastav13 · 2026-11-12
- 一人用 Tripo+Fable+自研引擎做出丧尸群像关卡 — gdechichi · 2026-11-12