隐私问题出事才被想起,研究者重提 2022 年差分隐私预训练警示论文

thegautamkamath · x · 2026-09-09

研究者 Gautam Kamath 表示自己不了解近期 NS 相关指控的内情,但指出这类数据隐私问题往往只在「可能出了坏事之后」才被想起。他引用了 2022 年与 Florian Tramèr、Nicholas Carlini 合写的 arXiv 立场论文。

该论文质疑将大规模网络抓取数据上的预训练视为「保护隐私」的做法:公开这种预训练模型可能造成伤害并侵蚀公众对差分隐私的信任;常用 benchmark 未必能衡量预训练模型向敏感领域泛化的能力;且预训练收益主要集中于大到用户无法本地运行、必须把私有数据外包给第三方的模型,今天部署这类模型对隐私可能是净损失。