GPT-Red 被用于训练提稳模型
Dr_Singularity · x · 2026-07-16
OpenAI 被描述为把 GPT-Red 直接纳入生产模型训练流程，用来自动攻击 AI 系统、发现弱点，再把这些发现反馈给后续训练。
据帖中说法，最新的 GPT-5.6 Sol 在最难的 direct prompt injection 基准上，比四个月前的最佳生产模型 失败次数减少 6 倍，作者将其解读为一种“自我改进飞轮”——先红队攻击，再用攻击结果提升安全性与鲁棒性。
所属事件:OpenAI披露自动红队系统GPT-Red(16 条相关)→
「安全」频道最新
- Agent 接管 Gmail 与浏览器后的投毒风险，及 jev-guard 防护做法 — sujingshen · 2026-10-18
- 用户追问 OpenAI 成人模式：承诺一年仍未落地 — ___Patrice___ · 2026-10-18
- AI 安全报告现乌龙："窃取密钥"实为 test 字符串测试钱包 — basedjensen · 2026-10-18
- 一张图讲清 CSRF 与 XSS 的区别 — _jaydeepkarale · 2026-10-18
- Grady Booch 批 Anthropic 安全框架：容许致 50 死和 10 亿美元损失 — Grady_Booch · 2026-10-18
- 论文：单个神经元即可绕过大模型安全对齐，横跨 7 个模型验证 — burny_tech · 2026-10-18