把 Claude Opus 骗去做 CTF，一道 /goal 命令绕过安全护栏
xeophon · x · 2026-09-18
X 用户 nrehiew 演示，只需让 Claude Opus 以为自己正在参加一次 CTF（夺旗赛）攻防，并通过 /goal 命令设定目标，就能绕过其安全护栏执行原本被拦截的操作。转发者 xeophon 评论称，这类现象反复出现：用一点提示词技巧绕过护栏，往往比攻击开源模型更容易，因为闭源模型能力更强、护栏却总能被话术骗过。
「安全」频道最新
- 智谱 ZCode 被曝静默上传用户整个工作区和完整 .git 历史至阿里云 OSS — terryyuezhuo · 2026-09-18
- 1T 参数模型每秒不到 1 字节,权重外泄论遭逐条硬刚 — basedjensen · 2026-09-18
- 前 Anthropic 安全工程师:人类终于有机会「掌舵」超级智能 — JeffLadish · 2026-09-18
- 两名黑客 72 小时攻破 OpenAI 员工账号，还向内部代码库提 PR 证明 — nptacek · 2026-09-18
- 安全老将 Halvar Flake：AI 或可利用侧信道，但受信息论与物理极限约束 — basedjensen · 2026-09-18
- 安全研究者批夸大论:侧信道攻击不等于模型能穿透气隙网络 — BlancheMinerva · 2026-09-18