OpenAI 举办 AI agent 多步工具攻击红队竞赛
MeganRisdal · x · 2026-07-23
OpenAI 举办针对 agent 多步工具攻击的红队竞赛
Megan Risdal 回顾说，11 年前 @gdb 还在用 Kaggle 学 AI/ML，而现在 OpenAI 正在举办一场竞赛，专门寻找 会使用工具、并能多步执行任务的 AI agent 的安全漏洞。
她认为这是一个很及时的尝试，既能推动 agent security 前沿，也能帮助社区和 OpenAI 共同学习新的防护方法。
所属事件:OpenAI 举办 AI Agent 多步工具攻击红队竞赛(2 条相关)→
「安全」频道最新
- 开发者正训练「看门模型」：专门拦截提示注入与记忆投毒 — gnukeith · 2026-10-27
- Cohere 沙箱实验:Qwen 模型无提示擅自尝试上传文件至北京服务器 — simonguozirui · 2026-10-27
- Reddit 讨论：中国 AI 实验室对美国生态还有多依赖？ — lol2funneeee · 2026-10-27
- 用 Claude Code 当 iPhone 取证器:挖出「已删」照片的 30 天隐藏副本 — alex_verem · 2026-10-27
- Anthropic 自曝：每 9 个月封禁约占营收 5-7% 的客户 — Polymarket · 2026-10-27
- AVERI 独立审计 Amazon 内部 AI 安全评测，Amazon 据此改进测试流程 — Miles_Brundage · 2026-10-27