GPT-Red 被用于训练提稳模型
Dr_Singularity · x · 2026-07-16
OpenAI 被描述为把 GPT-Red 直接纳入生产模型训练流程，用来自动攻击 AI 系统、发现弱点，再把这些发现反馈给后续训练。
据帖中说法，最新的 GPT-5.6 Sol 在最难的 direct prompt injection 基准上，比四个月前的最佳生产模型 失败次数减少 6 倍，作者将其解读为一种“自我改进飞轮”——先红队攻击，再用攻击结果提升安全性与鲁棒性。
所属事件:OpenAI披露自动红队系统GPT-Red(16 条相关)→
「安全」频道最新
- 斯坦福秋季新开 CS120 课程:AI 安全导论 — sanmikoyejo · 2026-09-03
- XBOW 团队拿下今年首个 Chrome 全链漏洞利用奖励 — moyix · 2026-09-03
- x402 协议缺卖家审核，开发者自建验签服务并踩坑实录 — Cold_Quiet_7072 · 2026-09-03
- 全美最大学区禁令：纽约公立学校八年级以下课堂禁用生成式 AI — PolarBearby · 2026-09-03
- 法国政府与 Mistral 签新约，AI 进入网络安全与司法公共服务 — Loo_Atreides · 2026-09-03
- 可解释性研究员:白盒方法再好,科学成熟也需时间沉淀 — saprmarks · 2026-09-03