浙大 PGPO:扰动语义嵌入防 LLM 推荐系统反演攻击
zju · hf · 2026-11-19
浙江大学团队提出 PGPO(Prototype-Guided Progressive Obfuscation),用于防护 LLM 增强推荐系统中的嵌入反演攻击。方法分三阶段:先按影响分数识别原型词并构建静态图;再用 GRPO 策略引导 LLM 探索原型词变体;最后向非原型词扩展。奖励函数兼顾个体差异(降低与源嵌入相似度)、结构一致性(保持图结构)与语义约束(保持与类别锚点距离),在扰动高影响语义嵌入的同时保留物品间相对关系。
「安全」频道最新
- 康复赌瘾者怒斥 Kalshi:绕开州级博彩保护让成瘾者复赌 — paulnovosad · 2026-11-19
- Human Principal 开启内测:用密码学证明 AI agent 背后是真人 — yenkel · 2026-11-19
- 黑帽 SEO 利用 Google 索引公开 Docs 网址,操纵 AI 搜索推荐 VPN — gaganghotra_ · 2026-11-19
- Wispr Flow 笔记助手登陆 iPhone,线下客户对话也能被 AI 记录了 — rcleffke · 2026-11-19
- 美国 AI 诉讼累积至 336 起,OpenAI 一家占 119 起 — emmanuelvivier · 2026-11-19
- Citi 等美国银行将第三方 AI Agent 造成的损失转嫁客户 — emmanuelvivier · 2026-11-19