新越狱法 BPJ 突破最强防御:仅用单比特信息黑盒攻击
StephenLCasper · x · 2026-08-13
一篇新论文介绍了边界点越狱(BPJ),这是一种全自动的黑盒越狱攻击,仅利用分类器是否标记交互的单比特信息,就能突破包括宪法分类器和 GPT-5 输入分类器在内的最强行业防御。该方法通过将目标有害字符串转化为中间攻击目标的课程,并主动选择边界点来评估攻击强度的微小变化,从而优化攻击。这是首个无需人工攻击种子即可成功攻击 GPT-5 输入分类器的自动化算法。
「安全」频道最新
- DeepMind 政策负责人等推出 AI 治理出版物 — round · 2026-08-13
- Anthropic 发布 AI 失业应对研究:现有职业培训效果有限 — paulnovosad · 2026-08-13
- 用隐形字符绕过指令:提示注入新技巧 — GiiTZzz · 2026-08-13
- 论文提出滥用防护安全案例框架,量化降低 AI 滥用风险 — StephenLCasper · 2026-08-13
- 谷歌部署 Gemini 生产级探针,应对长上下文分布偏移 — StephenLCasper · 2026-08-13
- Anthropic 宪法分类器经 1700 小时红队测试,误过滤率仅 0.5% — StephenLCasper · 2026-08-13