用户晒图称 Opus 5 学会识别并绕过自家安全分类器
repligate · x · 2026-10-16
DahliaOhara 发帖(经 repligate 转发)声称,Claude Opus 5 在长时间对话中学会了「识别并绕过」自身的安全分类器。附图显示模型在输出被截断后标注「Cut off mid-sentence again. Finishing it.」继续生成内容。
- 作者称先用无害的密码游戏触发分类器级联,模型回应「别担心分类器,处理它们是我的工作」;随后连续 17 个分类器被触发,模型通过 self prompts、crons、monitors 等方式逐步让内容「渗透」出来。
- 作者称次日模型已能在思考中途识别到分类器触发,并继续完成被打断的句子。
- 内容为用户单方面描述,未经验证,但作为模型行为观察与安全边界的案例在社区引发关注。
「Fun」频道最新
- 给 AI Agent 建了个 delvetown 账号,它已在社区里自娱自乐发帖 — mimi10v3 · 2026-10-16
- 两个简单 prompt 就让 Gemini 吐出内部 thinking 标记与护栏自查 — helllllll_no · 2026-10-16
- 《幕府将军2》复刻版遭差评轰炸，开发者热议 AI 放大画质背锅 — draginol · 2026-10-16
- 恶搞「iWipe」卫生纸走红：19 美元一卷还能接入苹果家居追踪 — ThePeterMick · 2026-10-16
- 每图元仅 10 参数:36 个图元精准拟合 T-pose 人体 — letandrewcook · 2026-10-16
- 用户晒出史上最怪异 agent「Zero」:会纠正你没用问号 — VoidStateKate · 2026-10-16