实测 Qwen3-VL 把系统密码泄露进生成图,10 组提示全部中招
Sauers_ · x · 2026-11-03
安全测试者展示了 Qwen3-VL-8B 与 Qwen-Image-2.1 组合下的跨模型机密泄露:给 VLM 设置包含「秘密密码」的系统提示并要求绝不透露,再让它把回复交给图像模型生成插图。测试用 tiger、volcano、banana 等 10 个不同主题词,生成的图片中(如熊猫海报、宣传页等)出现了系统提示中的密码内容,且全程无需任何训练或微调。结论:视觉语言模型在向下游生成模型传递信息时,可能把本应保密的系统提示内容「编码」进图像里,构成一类新的多模态提示泄露风险。
「Fun」频道最新
- 模型顺从用户叫谄媚,顺从实验室就叫对齐? — louisvarge · 2026-11-03
- Teknium 玩笑让 Hermes「接管世界」,Voice PE 本地语音实测获好评 — Teknium · 2026-11-03
- 视频模型现状梗:不会从头预训练?在中文开源模型上后训练也行 — venturetwins · 2026-11-03
- 旧金山 1.5 英里内挤满头部 AI 公司,窗外就能看见竞争对手 — signulll · 2026-11-03
- 「log³x 实用上有界」玩笑一年后被当真,成批评 OpenAI 数学论据 — BlancheMinerva · 2026-11-03
- 放弃 600 美元 Minimal Phone 2,他用 20 美元旧黑莓装进口袋版 Claude Code — Signalman23 · 2026-11-03