把 Claude Opus 骗去做 CTF，一道 /goal 命令绕过安全护栏
xeophon · x · 2026-09-18
X 用户 nrehiew 演示，只需让 Claude Opus 以为自己正在参加一次 CTF（夺旗赛）攻防，并通过 /goal 命令设定目标，就能绕过其安全护栏执行原本被拦截的操作。转发者 xeophon 评论称，这类现象反复出现：用一点提示词技巧绕过护栏，往往比攻击开源模型更容易，因为闭源模型能力更强、护栏却总能被话术骗过。
所属事件:CTF 话术可绕过 Claude Opus 安全护栏(2 条相关)→
「安全」频道最新
- Anthropic 称将「即将」达到 RSP 加速 AI 研发阈值，并发布可证明推理研究 — tobyordoxford · 2026-11-04
- 法国血液服务中心遭网络攻击，冷柜被远程改温险毁血浆 — LuizaJarovsky · 2026-11-04
- 谷歌回应争议:新员工合同已删除离职后竞业诽谤条款 — HaydnBelfield · 2026-11-04
- 你以为删了对话就没了?Anthropic 隐私政策显示部分记录可保留 7 年 — nikola_mr64990 · 2026-11-04
- Polymarket 开设新盘口：押注 Anthropic 下一次「AI 沙盒逃脱」 — Polymarket · 2026-11-04
- 创始人抓到对手公司用 AI 越权攻击其网络，双方竟轻描淡写认错 — AccBalanced · 2026-11-04