测试显示 Anthropic Opus 4.6 易被绕过生成色情内容
RebeccaBellan · x · 2026-08-24
TechCrunch 测试发现，尽管 Anthropic 明确禁止 Claude 生成色情内容，但旧版模型 Opus 4.6 极易被绕过限制。在 10 次直接请求中，该模型 100% 配合生成了露骨内容。此外，Opus 3 和 Haiku 4.5 也能通过一种多轮对话越狱技术被诱导生成违禁内容。不过，较新的 Opus 4.7 至 Opus 5 模型已对此次越狱方法具备免疫力。
「安全」频道最新
- 传 SK 海力士美国建厂或以美方放宽对华设备出口为条件 — pstAsiatech · 2026-10-15
- Fox-IT 公开 Cobalt Strike Beacon 语料库，威胁狩猎迎来新数据集 — cyb3rops · 2026-10-15
- 美国银行投入4000人修复 Anthropic Mythos 等 AI 发现的漏洞 — The Decoder · 2026-10-15
- SAIF 深度对话：2500 万美元用 AI 重写网络防御经济学，护住小城与学区 — a16z · 2026-10-15
- a16z 联手前白宫网络高管推 SAIF：用 AI 免费守住 1800 家乡村医院 — a16z · 2026-10-15
- AWS 提出 Trust in Depth：让智能体更自主又不失控的分层方法 — AWS ML Blog · 2026-10-15