FOCS 论文：成员推断攻击可能需要远超训练量的参考样本
roydanroy · x · 2026-11-09
Haghifam、Adam Smith 与 Jon Ullman 的论文《The Sample Complexity of Membership Inference and Privacy Auditing》（arXiv:2508.19458，FOCS 2026 报告）研究成员推断攻击（MIA）需要多少参考样本才能达到最强攻击效果。
- 设定：高斯均值估计，算法用 n 个样本训练，攻击者需要独立参考样本来了解分布。
- 结论：要达到与「全知攻击者」相当的攻击效果，可能需要 Ω(n + n²ρ²) 个参考样本。
- 意义：首次证明攻击者有时需要的样本量远超训练算法本身使用的数据量，对实践中所有现有 MIA 攻击与隐私审计方法都有直接影响——实际可用数据可能不足以构建最强攻击，隐私审计结论因此偏乐观。
作者将于周三下午 4 点在 NYU Kimmel Center 做 FOCS 2026 报告。
「研究」频道最新
- Transluce 构建管线:发现数千个微调后诱发自伤推荐等异常行为的隐蔽数据集 — RexDouglass · 2026-11-09
- 像素画数据集作者自述：自己训模型太贵，索性开放140万张数据 — Angaisb_ · 2026-11-09
- jd_pressman 谈学习复杂规格的瓶颈:梯度缺失与柯氏复杂度过高 — jd_pressman · 2026-11-09
- METR 称已获「确凿证据」：AI 正加速前沿研究，细节因涉密被删 — peterwildeford · 2026-11-09
- 研究者探讨:神经网络子网络多为纯函数,但 spec 与数据分布深度纠缠 — jd_pressman · 2026-11-09
- 无训练无梯度:Agent 直接改 Qwen 0.8B 权重注入个人事实 — burny_tech · 2026-11-09