OpenAI推出自动化红队系统GPT-Red

OpenAI News · rss · 2026-07-15

OpenAI 发布了名为 **GPT-Red** 的自动化红队测试系统。该系统利用自我博弈（self-play）机制来测试和提升 AI 模型的安全性、价值对齐效果，并专门增强模型抵御 prompt 注入攻击的鲁棒性。