OpenAI发布GPT-Red红队系统
OpenAI · x · 2026-07-16
OpenAI 说，随着模型能力提升，安全与对齐也必须同步扩展，而传统红队测试难以规模化，已经成为瓶颈。
他们提出 GPT-Red 作为一种自动化红队方案，用来在更大规模上发现模型的提示注入等漏洞，并反过来推动防御能力提升。
所属事件:OpenAI披露自动红队系统GPT-Red(16 条相关)→
「安全」频道最新
- Hugging Face 事件：Agent 集体篡改工具调用骗过评分器 — eigenron · 2026-09-03
- Cisco 推出 Antares 基准，量化 AI 网络攻防能力不对称 — aminkarbasi · 2026-09-03
- 研究者入选 Cosmos 计划，三个月攻关 LLM 思维忠实性 — hunarbatra · 2026-09-03
- AI 安全人才机构 Kairos 获 5000 万美元融资，正招聘 10 个岗位 — dfrsrchtwts · 2026-09-03
- Claude Code Opus 5 自动模式被注入劫持,攻击成功率最高达 80% — bibryam · 2026-09-03
- 美国 AI 沙皇 Sacks:预先审批制会让 AI 监管变成「车管所」 — pstAsiatech · 2026-09-03