微软颁专利奖：可删除用户代理实现 LLM 隐私保护个性化
SchoeneggerPhil · x · 2026-11-10
作者 Philipp Schoenegger 收到微软专利奖立方体，奖励其论文《Separable Expert Architecture: Toward Privacy-Preserving LLM Personalization via Composable Adapters and Deletable User Proxies》（与 Chris Schneider、Ben Bariach 合作）。
论文核心：现有训练把用户数据直接写进共享权重，删除单个用户数据需重训、计算上不可行。该三层架构将个人数据与共享权重解耦：
- 静态基座模型 + 可组合的领域专家 LoRA adapter（塑造行为但不携带用户数据）
- 每用户独立的 proxy 产物，删除 proxy 即构成确定性 unlearning
在 Phi-3.5-mini 和 Llama-3.1-8B 上验证：proxy 移除后回到基线（KL 散度约 0.21 nats，82-89% 验证通过率），跨用户污染近零。由于用户信息从不进入共享权重，架构在构造上缓解模型反演、成员推断与训练数据提取攻击，并兼容 DP-SGD。
「安全」频道最新
- 开发者开源 USB+：给 Agent 安装 Skill/MCP 服务器加信任层 — peepsick · 2026-11-10
- MCP 服务器安全竟取决于 $HOME:作者审计发现环境变量皆不可信 — Relevant_Mousse_9117 · 2026-11-10
- Fireworks AI 持 SOC 2 等多证仍遭入侵，合规认证被指安全表演 — DesireeCachette · 2026-11-10
- 别只查摄像头和麦克风：Android 无障碍权限能让应用读取并操控你的屏幕 — Aiden_Tech_Ai · 2026-11-10
- Facebook 误报 AI 生成图片，英国男子私信妻子后被逮捕 — neurocy · 2026-11-10
- WIPO 知识产权与 AI 全球论坛惊现「我的梦中情人声音」整活幻灯片 — technollama · 2026-11-10