复旦团队发布 MATE:移动 GUI 智能体轨迹安全审计,真实轨迹 F1 达 95.6%
机器之心 · wechat · 2026-10-07
上海创智学院与复旦大学团队提出智能体轨迹安全审计方案 MATE,发表于 USENIX Security 2026,首个面向移动/GUI 智能体执行轨迹的「规则感知」安全审计模型。
背景与问题
- GUI Agent 真正操作设备,风险藏在「感知—决策—执行—反馈」整条行为链中:单个动作看似安全,组合起来可能越界。
- 现有方案两类局限:静态规则/模式匹配难覆盖长轨迹语义;通用 LLM-as-a-Judge 成本高、延迟大,外发轨迹还有隐私风险,且都难兼顾规则可定制、跨应用泛化、结果可解释。
MATE 核心设计
- 规则感知:把「指令+轨迹+自然语言安全规则」联合输入审计模型,规则是可编辑文本而非写死在参数里,更新安全边界无需重训模型。
- 可解释:输出违规判定、14 类风险类别与基于轨迹证据的审计解释,便于人工复核与溯源。
- 轻量本地部署:提供 0.5B/1.5B/3B 三档;0.5B 单轨迹约 0.09 秒(准确率 92%),3B 约 0.21 秒(准确率 95.48%),基于 Qwen2.5 微调。
- 部署侧工程:TrajectoryAdapter 统一异构 Agent 日志为 ReAct 风格,PolicyRetriever 类 RAG 检索相关规则。
数据与评测
- 从 158 个中英文热门 App 采集知识,合成超 14 万条规则条件化轨迹,经多阶段质量控制与轨迹—规则错配、多规则、多 App 增强策略。
- 构建 MATEBench(In/Out/Real 三个子集,含智谱 AutoGLM、阿里 Mobile-Agent 真实轨迹,覆盖 14 类移动智能体风险)。
- MATE-3B 在五组评测准确率 92.6%–96.8%,真实轨迹 F1 95.60%;零样本 Qwen2.5 平均准确率不足 50%,微调后提升至 92% 以上。
- 论文:USENIX Security 2026;代码与模型已开源(GitHub/Hugging Face)。
「安全」频道最新
- Kurzgesagt 新视频讲 Hugging Face 事件,被批偏袒 OpenAI 视角 — koltregaskes · 2026-10-07
- AI 逆向出整套 Adobe 套件开源实现,「闭源软件已死」引热议 — wen_ragnarok · 2026-10-07
- 假冒 ChatGPT/Gemini/Claude 广告工具窃取凭证,可实时操控 MFA — TechNadu · 2026-10-07
- Copilot 被「自解密」恶意指令攻破,半数测试泄露本地机密 — Haunting_Ganache_850 · 2026-10-07
- 欧洲风光电站 8547 套系统暴露公网，181 处或可被完全控制 — TechNadu · 2026-10-07
- YouTube-dl 仓库遭 GitHub 下架后恢复上线 — birdculture · 2026-10-07