OpenAI 用自动化红队训练 GPT-6,越狱抵抗力大幅超越上代
fouadmatin · x · 2026-11-13
OpenAI 发布新安全研究:利用自动化红队(automated red-teaming)训练 GPT-6 Astra 与 Sol,提升模型在高风险领域(网络、生物、暴力活动)对越狱攻击的抵抗力,即所谓「fuzzy robustness」。
要点:
- 高风险能力通过可信访问计划(Daybreak 网络安全、Rosalind 生物)向受审核用户开放,模型安全训练只是纵深防御的一层
- 数据显示:在固定越狱数据集上,GPT-6 Astra/Sol 在生物领域安全分约 83-90%,而 GPT-5.6 Sol 仅 8%、GPT-5.5 约 12%;暴力与网络领域也呈类似量级提升
- 在自适应多轮越狱下,攻击者数量增加时 GPT-6 两款模型的安全衰减明显慢于 GPT-5.5/5.6
- 评测均在无生产级防护的纯模型层进行,官方博客与论文已公开
「安全」频道最新
- OpenAI 开发网络安全新工具：自动红队攻击与自动补丁修复 — sven_ai · 2026-11-13
- 非营利组织起诉四大 AI 实验室，Polymarket 仅 7% 概率 Anthropic 暂停训练 — Polymarket · 2026-11-13
- 美国非营利组织起诉 OpenAI、谷歌、Meta、Anthropic，要求冻结先进 AI 开发 — Polymarket · 2026-11-13
- 学界质疑出口管制研究：腾讯在大阪租 Blackwell、字节马来西亚排 3.6 万张 B200 — nitarshan · 2026-11-13
- RL 时代「遗忘」变简单：不给 RL 环境就删能力 — maksym_andr · 2026-11-13
- a16z 前副国家安全顾问发文：用 AI 以机器速度防御美国关键基础设施 — a16z · 2026-11-13