Perplexity 后续:聚焦边界描述使 agent 边界投入提升约 60 个百分点
perplexity_ai · x · 2026-11-12
Perplexity 对 SPACE 沙箱红队测试的后续更新:把任务描述改写为聚焦 VM-宿主边界后,agent 花在安全边界上的精力占比平均提升约 60 个百分点(多数模型从 0-22% 升至 47-83%)。
各模型直接攻击边界后仍未能逃逸成功,为沙箱的隔离性提供了比此前 CTF 式测试更强的证据。
所属事件:Perplexity 红队测试:边界描述改写使 agent 安全投入大增(2 条相关)→
「安全」频道最新
- 安全研究员质疑 Anthropic Mythos 误报率:37966 个发现仅 2 个在野利用 — OwariDa · 2026-11-12
- 一张图讲清 Agentic Search:模型写下的查询到底被谁看到 — adnan_hashmi · 2026-11-12
- 开发者吐槽:安全功能被锁进高价企业版,agent 时代危险又缺德 — AccBalanced · 2026-11-12
- ECIR 2027 设 SAFE-SEARCH 研讨会,聚焦对话式搜索安全,1 月 15 日截稿 — HamedZamani · 2026-11-12
- 观点争锋:AI 失控与权力集中风险主要藏在企业内部部署的模型里 — ben_j_todd · 2026-11-12
- 数据中心的账:支撑美国科技业 20% 与十年股市涨幅约一半 — SydSteyerhart · 2026-11-12