INTACT 论文:用网页语义隔离守住 AI 浏览智能体安全
Umar Iqbal · hf · 2026-10-19
华盛顿大学圣路易斯分校 Umar Iqbal 的论文《What It Is, Not What It Says: Securing Agentic Browsing Interactions with Web Semantics》提出 INTACT 框架,解决 AI 网页智能体直接暴露于不可信第三方内容的问题。
- 问题:智能体把网页当作截图或文本直接喂给 LLM,注入内容可诱导智能体滥用用户授权——已有 Reddit 隐藏指令导致部署中的智能体泄露一次性登录码和信用卡号的真实案例;OpenAI 也承认 prompt injection「不太可能被完全解决」。
- 方法:在未修改的浏览器上运行。INTACT 构建 GENTREE 表示,捕捉每个页面元素的来源(provenance)与网页语义;页面经 GENTREE 逐元素传给 LLM,使模型对每个元素独立判断,不受其他元素文本影响。
- 执行约束:采用能力边界执行(capability-bound execution),涉及第三方动作时需用户明确同意——让「元素是什么、来自哪」而非「它说了什么」决定其能做什么。
论文认为模型层防御只能缓解无法根除注入攻击,智能体与网页的接口层必须自身保证读取、解释与执行的完整性。
「安全」频道最新
- 男子起诉 OpenAI:称 ChatGPT 提供无照医疗建议致其精神危机住院 — alvelda · 2026-10-19
- 摩根大通限制 AI agent 接触资金,监管抛出四问 — No-Conflict4823 · 2026-10-19
- 不完美拦截反而助攻攻击者:前沿模型网络安全护栏的悖论 — Michael_D_Moor · 2026-10-19
- ComfyUI 文件夹一夜之间被整目录删除,疑与插件有关 — zaherdab · 2026-10-19
- 黑客用 AI Agent 军团入侵百余家网站，波及 John Deere 等巨头 — The Verge AI · 2026-10-19
- 开源老兵 Aronchick 将演讲数据供应链安全:软件供应链那套 SBOM/SLSA 该搬到数据管道了 — aronchick · 2026-10-19