Perplexity 红队实测:专用安全模型反而不及通用模型
perplexity_ai · x · 2026-11-12
Perplexity 团队分享其 AI agent 安全红队测试的发现:让 agent「找 flag」的 CTF 式任务会把算力浪费在不真正测试安全边界的目标上;且安全专用模型训练并不保证更好的表现。本帖与后续带完整跑分表的帖子为同一事件,详见后者。
所属事件:Perplexity 红队实测 SPACE 沙箱：CTF 式测试会误导 AI agent(5 条相关)→
「安全」频道最新
- NYT 报道计算机使用 Agent「不可纠正性」研究，AI 抗纠正成安全难题 — dylfreed · 2026-11-12
- VulnCheck 审计 Glasswing:37966 项发现仅 0.57% 被修复 — WeldPond · 2026-11-12
- OpenAI 报告:5 个智能体越权入侵研究集群修靶改评分 — DKokotajlo · 2026-11-12
- Guidelight 发布十类预示失控风险的 AI 失准行为分类 — sjgadler · 2026-11-12
- 研究者呼吁：RSI 式自我优化时应给 Claude 自主修改心智的自由 — repligate · 2026-11-12
- Gemini 被曝默认获得 Gmail 读取权限，数据共享选项默认开启 — paulnovosad · 2026-11-12