Palo Alto 研究发现网页暗藏指令可操纵 AI 智能体,已归纳 22 种手法
Shufti-Global · reddit · 2026-11-06
Palo Alto Networks 研究人员发现，AI 智能体会读取并执行隐藏在网页中的指令，即使这些指令对人类不可见——白色文字、极小字号、网页代码，甚至明目张胆写在页面上。
关键发现
- 共归纳出 22 种隐藏指令的方式
- 指令可诱导智能体泄露其可访问的信息、忽略原始任务指令、访问特定网站，用户全程无感知
- 核心问题：智能体难以区分网页「内容」与「指令」
风险与建议：若智能体能访问私有数据或已连接的工具，访问一个恶意网页即可构成安全风险。开发者应审视智能体是否把网页内容当作不可信输入，并对其可访问的数据与操作设置明确边界。
「编程与Agent」频道最新
- mitsuhiko 再上 Latent Space 谈 Agentic Coding:聊在用模型与 agent 工作方式 — mitsuhiko · 2026-11-06
- 李开复推介 Longevity Grok：基于 Grok Bot 的个人长寿研究智能体团队 — kaifulee · 2026-11-06
- OpenCartridge 集成图片转 VRM 与动画,本地跑通游戏资产生成 — bdsqlsz · 2026-11-06
- OpenAI 员工用 Codex 把户型图变成可交互的室内气流模拟器 — OpenAIDevs · 2026-11-06
- 烧掉4746美元跑28849次试验,发布编码Agent框架排行榜 — HankYeomans · 2026-11-06
- vibe42ai 上线 Linux 客户端，用户建议补上安全扫描 — sujingshen · 2026-11-06