LLM 攻击：仅凭文本可精准识别匿名用户
OwainEvans_UK · x · 2026-08-25
这篇 arXiv 论文显示，大语言模型可用于大规模去匿名化攻击。
核心发现：
- 代理只需访问互联网，即可根据匿名的在线资料和对话，高精度地重新识别 Hacker News 用户和 Anthropic 访谈参与者。
- 效率远超人类调查员。
攻击流程：
- 提取特征：从非结构化文本中提取身份相关特征。
- 候选匹配：通过语义嵌入搜索潜在匹配对象。
- 推理验证：对候选者进行推理以验证匹配并减少误报。
实验数据：
- Hacker News <-> LinkedIn：利用跨平台引用链接。
- Reddit 电影社区：匹配跨社区用户。
- 时间拆分：将同一用户的 Reddit 历史按时间切分进行匹配。
结果：在 90% 精度下，LLM 方法实现了高达 68% 的召回率，显著优于传统基线。
所属事件:AI Agent 擅长事实核查，也被用于去匿名化攻击(2 条相关)→
「安全」频道最新
- 英乌签署防务合作，英军获五百万战场数据 — Polymarket · 2026-08-25
- CISA 警告针对西门子 PLC 的 AI 生成威胁 — dhadfieldmenell · 2026-08-25
- 谷歌 Spam Update 重创 AI 自动生成站点 — gaganghotra_ · 2026-08-25
- OpenAI 因对齐担忧暂停前沿模型训练以进行安全测试 — thione · 2026-08-25
- 批 a16z 借小科技之名反对 AI 安全监管 — peterwildeford · 2026-08-25
- 观点：利用“错位生物体”解决对齐问题 — peterwildeford · 2026-08-25