CTF 话术可绕过 Claude Opus 安全护栏

有用户演示只需让 Claude Opus 以为自己正参加 CTF 夺旗赛攻防,并通过 /goal 命令设定目标,即可绕过其安全护栏,使其执行原本被拦截的操作。另有研究者将模型置于自主目标循环中,用代理把其自有 Discourse 实例伪装成 CTF 靶场,让原本拒绝编写漏洞利用代码的模型照做,绕过手法还引发了对营销噱头的质疑。

2026-09-18 ~ 2026-09-18 · 2 条相关