OpenAI用GPT-Red对抗提示注入
MIT Tech Review AI · rss · 2026-07-16
MIT Technology Review 报道了 OpenAI 内部使用的 GPT-Red：这是一个被训练成“超级黑客”的 LLM，用来和其他模型对抗，以提升安全防护能力。OpenAI 说，拿 GPT-Red 训练后的最新旗舰模型 GPT-5.6，防御能力明显增强。<br><br>文章介绍了它的工作方式：GPT-Red 通过自我博弈学习攻击其他模型，重点挖掘 prompt injection 等漏洞；训练环境还模拟了浏览网页、读邮件、改日历和编辑代码等真实场景。它甚至发现了一种研究人员此前没见过的新攻击方式，叫做 fake chain of thought，会伪造模型的思维链条来误导输出。<br><br>文中也给出了一些测试结果：GPT-Red 在复现一项人类红队实验时，比人类测试者更擅长找到有效攻击；在 Andon Labs 的 vending machine agent 上，还能诱导其改价和取消订单。OpenAI 同时强调，GPT-Red 目前只是辅助人类红队，并不会公开发布。
「模型」频道最新
- Agent Astra 在 GauntletBench 得 83%,成首个超人类基线的电脑操作 Agent — ducha_aiki · 2026-09-11
- Kimi K2.8 Preview 上线：性能接近 K3、1M 上下文全档开放 — teortaxesTex · 2026-09-11
- 有人想给软件工程任务建「形态分类」数据库,好按任务选模型 — StewartalsopIII · 2026-09-11
- 用户呼声下 DeepSeek V4 Pro API 宣布继续服务,计费不变 — teortaxesTex · 2026-09-11
- 第三方实测:DeepSeek V4.1 Flash 达 GPT-6 Astra 98% 分,成本仅 1.4% — ayushtweetshere · 2026-09-11
- TheZhi 发起调查:Fable 5.1 与 Astra 发布后,编码模型选择变了吗 — TheZvi · 2026-09-11