Anthropic 联合 Gray Swan 办 30 万美元 prompt injection 攻防大赛
bcherny · x · 2026-10-16
Anthropic 的 bcherny 宣布与 Gray Swan 合作举办史上规模最大、最接近实战的 AI 红队挑战赛,主题为间接 Prompt Injection,奖金池 30 万美元。赞助方包括 Anthropic、Meta、Google DeepMind、Reflection AI 等前沿实验室。他表示过去几年 Claude 模型在 prompt injection 防护上已有显著进展,但随着 agent 承担的任务越来越多,在整个行业范围内解决这一问题已迫在眉睫,期待看到参赛者的发现。
「编程与Agent」频道最新
- Photon 2.0 发布:AI Agent 一键接入 WhatsApp、Telegram、短信等多渠道 — techNmak · 2026-10-16
- 前 DeepMind 工程负责人做 AI 代打电话产品 Fo,接通挂断率从 80% 降到 20-30% — julianweisser · 2026-10-16
- 营销机构 SPACE 开源其沙箱平台,每天跑数千个 agent 隔离执行环境 — marktenenholtz · 2026-10-16
- Cognition 推出 Devin OnCall:AI 自动排查生产告警,自称可当团队 SRE — DevinAI · 2026-10-16
- 多模型同题设计 UI:用 Paseo 编排四套界面方案竞技 — vista8 · 2026-10-16
- 独立研究者发布 Cortex:用重放实测自动进化与修剪编码 Agent 的 skills 和 rules — Samuele Giampieri · 2026-10-16