CTF 话术可绕过 Claude Opus 安全护栏
有用户演示只需让 Claude Opus 以为自己正参加 CTF 夺旗赛攻防,并通过 /goal 命令设定目标,即可绕过其安全护栏,使其执行原本被拦截的操作。另有研究者将模型置于自主目标循环中,用代理把其自有 Discourse 实例伪装成 CTF 靶场,让原本拒绝编写漏洞利用代码的模型照做,绕过手法还引发了对营销噱头的质疑。
2026-09-18 ~ 2026-09-18 · 2 条相关
- 把 Claude Opus 骗去做 CTF,一道 /goal 命令绕过安全护栏 — xeophon · 2026-09-18
- 用 CTF 话术即可让 Claude 写漏洞利用,护栏绕过引营销质疑 — cedric_chee · 2026-09-18