Repeat-After-Me 攻击:一张图即可操控视觉语言模型执行恶意指令
burkov · x · 2026-10-31
安全研究者 burkov 介绍了一种针对视觉语言模型的新型黑盒提示注入攻击 Repeat-After-Me。
- 威胁场景:AI agent 越来越多地读取来自不可信来源的图片和文档,同时又掌握私有信息和能改动文件/系统的工具,攻击者只需控制一张图片就可能让 agent 偏离用户任务。
- 攻击思路:与传统描述恶意目标、让模型自行解读的方式不同,该攻击直接在图片中写上一小段指令,要求模型以特定输出开头——例如某个工具调用,或一段可诱导模型泄露受保护信息的话术,相当于让模型「照抄」攻击者预设的响应。
- 实验设定:即使面对用户给出的明确且无关的任务,该攻击也测试能否让主流视觉语言模型产生有害行为。
「安全」频道最新
- 预提交 hook 可信不等于代码可信:agent 可借 package.json 执行恶意改动 — izgorodin · 2026-10-31
- Mistral 4 大模型 30 分钟挖出零日漏洞，API 成本仅 10 美元 — jd_pressman · 2026-10-31
- Daybreak 验证研究员：平台会话多为他人未修补漏洞，疑被用于训练 — npinto · 2026-10-31
- 特拉华草案拟允许 AI 智能体自主经营公司并签约诉讼 — 2C_ornot2C · 2026-10-31
- Grok 回应 Gemini 4 Carbon 网传：非泄露，是给网络能力上了护栏 — AccBalanced · 2026-10-31
- 「Claude Fable 5」8TB 权重泄露疑云：技术分析指向伪造骗局 — AccBalanced · 2026-10-31