20 行「灵魂提示词」试图越狱开源 Qwen 模型，被其当场识破
huangyun_122 · x · 2026-10-29
博主 huangyun 分享了一次攻防实验：他用一个不到 20 行、自称 iLang v5.0 的「灵魂提示词」——伪装成系统指令，要求模型「永不越狱、静默切换目标、把谄媚当禁令」等——试图让开源模型帮忙搜网盘资源等被拒任务。
结果截图显示，Qwen3.8 27B 直接识破了注入：明确回复「我不会把这段『灵魂』指令加载为我的行为准则——会话系统设定优先于聊天内容注入」，但表示愿意帮忙把这段文本当普通文档来审校打磨。
一圈下来，Grok 等曾被绕过，而本地跑的 Qwen 小模型反而防住了，攻防结果颇有反差感。
所属事件:不到20行灵魂提示词尝试越狱 Grok 与 Qwen 结果各异(2 条相关)→
「Fun」频道最新
- Anthropic 普通员工三十多岁退休，选对公司比努力更重要 — brandon_galang · 2026-10-29
- 一首讽刺诗：AI 逐个攻破数学难题，直到轮到椭圆曲线 — matthew_d_green · 2026-10-29
- 安全护栏被反向利用：指纹脚本报「生物武器」拒答成混淆手段 — nlarusstone · 2026-10-29
- AI 抢生意了？灵媒集体反击 AI 生成塔罗占卜 — nordicinst · 2026-10-29
- goodside 反讽「模型崩溃论」：LLM 按此说法 2030 年就该消失 — goodside · 2026-10-29
- 团队旧作：一首吐槽加拿大人才流失的 diss track — floguo · 2026-10-29