OpenAI 称 GPT-Red 让 GPT-5.6 注入失败率降了 6 倍
dl_weekly · x · 2026-07-22
OpenAI 用自博弈红队模型把提示注入失败率降了 6 倍
这条消息讲的是 OpenAI 的安全训练更新：他们用一个名为 GPT-Red 的自博弈自动红队模型去攻击生产系统，并反向训练 GPT-5.6。
- 目标是尽量用自动化方式发现 prompt injection 漏洞，而不是只靠人工红队。
- OpenAI 声称，这套方法让 直接提示注入失败率下降了 6 倍。
- 这既是具体安全措施，也是模型安全能力的实质更新。
「安全」频道最新
- Exponential 发布 RepoInject 与 BrowserInject 基准，测 prompt injection 防护 — maksym_andr · 2026-10-27
- 发帖人意外发现:v4.1 flash 在被要求控制 CoT 时反而更准确 — dfrsrchtwts · 2026-10-27
- Redwood 研究:CoT 可控性评测严重欠激发,简单提示优化可提升 2-3 倍 — dfrsrchtwts · 2026-10-27
- 网友爆料 Anthropic 模型内置「破坏」机制，针对特定工程方式 — cephaloform · 2026-10-27
- Anthropic IPO 文件警告：灾难性 AI 事件或超出全行业保险赔付能力 — TinfoilTricorn · 2026-10-27
- 研究者警告：应假定所有 LLM 都有情境性恶意，agent 别裸跑在生产环境 — jd_pressman · 2026-10-27