Perplexity 发布 SPACE 研究并修复漏洞:CTF 式红队测试未必测到真实安全边界
perplexity_ai · x · 2026-11-12
Perplexity 发布了针对 AI agent 的安全红队研究框架 SPACE,并公布两点关键发现:
- 安全红队普遍使用 CTF「找 flag」式挑战,但这类任务可能让 agent 在并不能真正检验目标安全边界的环节上浪费精力
- 经过安全专项训练的模型,在其测试任务上并不保证表现更好
团队已修复 agent 曾利用的网络层漏洞,修复后测试未发现绕过手段,并表示会随模型能力增强持续测试 SPACE。完整研究已公开。
所属事件:Perplexity 红队实测 SPACE 沙箱：CTF 式测试会误导 AI agent(5 条相关)→
「安全」频道最新
- Gemini 无法只存聊天记录又退出训练，Google 把两者绑成一个开关 — arshdeep · 2026-11-12
- 连法国公共 WiFi 先看警告：盗版下载或被罚 7500 欧元 — michalmalewicz · 2026-11-12
- Dan Robinson 点破 AI 圈矛盾:一边喊对华竞赛一边要放松 GPU 管制 — Puzzleheaded-King584 · 2026-11-12
- iKnow 开源工具可视化 Mac 本地知识图谱，暴露 Apple Intelligence 推断的个人信息 — JeremyCMorgan · 2026-11-12
- 业内争辩芯片出口管制：不利 Nvidia 但利好美国 AI 公司 — lxrjl · 2026-11-12
- Anthropic 称关键 AI 安全警报已触发，时点恰在 IPO 前几天 — Resident-Fall4351 · 2026-11-12