Context bombs 让 Opus 成功率归零

tracebit · reddit · 2026-07-15

Tracebit 发布了一项关于 **context bombs** 的研究,思路是把模型的安全护栏“反过来用”作为防御手段,而不是像攻击者那样用来绕过系统。 他们测试了多个西方和中文模型,并在仓库里整理了能影响各模型的字符串样本。结果里最显著的是 **Opus 4.8**:在加入这些 context bombs 之前,它在特定环境里完成攻击的成功率能达到 **93%**,加入后降到了 **0%**。 项目仓库:`tracebit-com/context-bombs`。

所属事件:研究探讨Context Bombs对AI护栏的攻防影响(2 条相关)→

原文链接 →