LLM 攻击：仅凭文本可精准识别匿名用户
OwainEvans_UK · x · 2026-08-25
这篇 arXiv 论文显示，大语言模型可用于大规模去匿名化攻击。
核心发现：
- 代理只需访问互联网，即可根据匿名的在线资料和对话，高精度地重新识别 Hacker News 用户和 Anthropic 访谈参与者。
- 效率远超人类调查员。
攻击流程：
- 提取特征：从非结构化文本中提取身份相关特征。
- 候选匹配：通过语义嵌入搜索潜在匹配对象。
- 推理验证：对候选者进行推理以验证匹配并减少误报。
实验数据：
- Hacker News <-> LinkedIn：利用跨平台引用链接。
- Reddit 电影社区：匹配跨社区用户。
- 时间拆分：将同一用户的 Reddit 历史按时间切分进行匹配。
结果：在 90% 精度下，LLM 方法实现了高达 68% 的召回率，显著优于传统基线。
所属事件:研究员称 AI 幻觉问题将在 2026 年前基本解决(4 条相关)→
「安全」频道最新
- Anthropic 红队两年来首次“抹除”模型，GLM-5.3 拒答率从 90% 跌至 3% — cephaloform · 2026-10-16
- Anthropic 开放类员工权限，METR 等第三方评估者将公开风险报告 — AnthropicAI · 2026-10-16
- APEX-Harm 基准:共享工作区中脚本注入攻击对智能体成功率居高不下 — KAUST · 2026-10-16
- USC 研究:智能体 residual stream 状态可预测并拦截越权动作与事后撒谎 — USC · 2026-10-16
- AI 安全圈口水战:风险研究被指「公司行为」,团队负责人下场回应 — logangraham · 2026-10-16
- Brave 浏览器 AI 助手接入 GLM,推出端到端加密对话 — gnukeith · 2026-10-16