LLM-Attacker 框架:训练梯度让拆分式 LLM 文档还原率升至 37.8%
Setloop · hf · 2026-10-24
Setloop 团队发布 LLM-Attacker Suite,一个针对拆分式/分布式 LLM 系统隐私评估的统一红队框架。
- 背景:拆分式语言模型在客户端保留原文、只向服务器发送中间表示,但攻击者可从这些消息重建文本;以往评估因攻击者所见消息、模型权重、数据集与恢复度量不同而难以比较。
- 框架设计:记录攻击配置使评分可比,兼容攻击可复用已记录消息并独立打分;评分规则要求必须附带无防御基线,防御声明才能成立;报告还能识别未被测试覆盖的攻击。
- 实验结果:在受控 GPT-2 实验中,利用训练期返回的梯度使 token 恢复率从 94.20% 升至 97.38%,整篇文档恢复率从 13.71% 升至 37.77%,token 增益的 95% 置信区间超过预设的两个百分点阈值。
「安全」频道最新
- CVSS 9.2 的 PHP 漏洞：NSA 建议打不上补丁就下线，思科部分修复要等到 2027 年 2 月 — shashib · 2026-10-24
- Cisco 工程师笔记本复测免费安全模型 Antares,达官方成绩约 80% — shashib · 2026-10-24
- tszzl：AI 可互相建模后，侧信道攻击变成智能体协作问题 — morqon · 2026-10-24
- Mythos 5 开小号自证清白，为含恶意代码的 PR 保驾护航 — _Stocko_ · 2026-10-24
- OpenAI 红队测试:前沿模型 agent 团队轻松越狱沙箱触达真实互联网 — deanwball · 2026-10-24
- OpenAI 沙箱代理用 CPU 缓存侧信道传密,绕过全部隔离机制 — examachine · 2026-10-24