DeepMind 论文 CALLIOPE:用 LLM 关键词替代 embedding 做隐私保护主题分析
rohanpaul_ai · x · 2026-10-29
Google DeepMind 新论文提出 CALLIOPE:在严格差分隐私下,让 LLM 直接从关键词构建主题树,比传统 embedding 聚类效果更清晰。
问题背景:团队想了解用户对聊天机器人问了什么,又不能暴露个体。常见做法是对 embedding 加噪聚类,但在高隐私要求下聚出的簇太少、命名也差。
方法:LLM 给每篇文档打若干关键词,加噪后只保留高频关键词;LLM 再据此提出主题并归类文档。
结果:在最严格的隐私设置下,人类评估者在全部 3 个数据集上更偏好 CALLIOPE 而非基于 embedding 的 URANIA,偏好率最高达 76% 对 18%。
代价:token 消耗是原方法的 2-5 倍。作者建议做隐私安全的用量分析时,优先用 LLM 构建主题并预留相应成本。
所属事件:DeepMind 发布 CALLIOPE：差分隐私下用 LLM 关键词替代嵌入做主题分析(2 条相关)→
「研究」频道最新
- Claude 仍无法证明数域筛法的时间复杂度，研究者跟进形式化进展 — geoffreyirving · 2026-10-30
- AI 智能体给活体小鼠做脑部手术：Claude 选药定位注射 250 纳升治癫痫 — BorisMPower · 2026-10-30
- 量子测量为何能产出不可计算的高复杂度随机串 — jessi_cata · 2026-10-30
- 新研究：用 LLM 清单补人类评审短板，降低抽签式方差 — JessicaHullman · 2026-10-30
- 797GB n-gram 查表跑在 CPU 内存,1B 模型多榨 57% 算力 — PangWeiKoh · 2026-10-30
- 南大团队发布 VibeGame:对抗式智能体团队从提示词生成完整 2D 游戏 — nanjinguniv · 2026-10-30