Countering Privacy Nihilism
Severin Engelmann, Helen Nissenbaum
cs.CY, cs.CR
2025-07-24
Cornell Tech 指出，因 AI 能「从一切推出一切」而放弃数据分类，是把概念过拟合误当成无限推断；监管应改用情境完整性的五参数。
隐私法几乎都靠数据分类干活：敏感对非敏感、私密对公开。GDPR 第 9 条、HIPAA、CCPA、中国 PIPL 都是这条路。AI 圈有一套更狠的说法：模型能从几乎任何痕迹推出几乎任何属性，所谓 everything from everything（EfE）。一旦当真，按数据类型设保护的规范就站不住。Engelmann 和 Nissenbaum 把「因为承认 EfE 就丢掉数据分类」叫做隐私虚无主义。
他们要拦的是两头：一头是把 AI 推断能力写成无限，从而劝监管认输；另一头是死守「只看数据类型」的旧框架，假装推断不存在。
这是一篇规范论文，没有新模型、没有基准表。论证分三步。
先把隐私虚无主义钉死在 EfE 上：不是「AI 会推断」，是「推断能力强到分类保护失去意义」。再引入 conceptual overfitting（概念过拟合）：开发者用省事规范，把党派倾向、性取向、精神健康这类复杂构念硬套到概念上不够、甚至无关的数据上。最后用 Nissenbaum 的 contextual integrity（情境完整性）补框架：规范信息流动要同时写清五个参数，不能只写数据类型。
概念过拟合顺着模型流水线拆三处。
数据采集像醉汉找钥匙，灯下有什么就挖什么。社交平台画像、ImageNet、CommonCrawl 随手可得，组织把厨房水槽里的点赞、好友数拿去「发现」未披露用户的党派倾向。模式被当成语义，事先却没有关于该构念的概念承诺。
Ground truth 制造更省事。监督模型要标签。种族、情绪这类标签常由众包按预设类别多数投票拍板，把本可多元的解释压成单一正确答案。精神健康则常见「问卷分数 × 社交媒体」：一篇常被引用的研究让众包填 CES-D 抑郁量表，再拿 Instagram 图片色调训练随机森林，声称发现抑郁标记。临床诊断要问诊、病史、体检和量表一起看，色调相关远不够撑起同等诊断效力。还有 proxy hopping（代理跳跃）：加速度计先推走路，走路再推情绪，每跳一次都要造一份 ground truth，测量误差会叠乘。
模型评估把准确率当橡皮图章。72% 的党派倾向「看脸」准确率算不算够用，没有人说得清。阈值把概率变成确定性分类，过拟合模型里这个阈值基本任意。同一批人既做模型又报分数，实验室数据集上的 SOTA 竞赛更容易把「测得动」写成「推得出」。
论文没有做新实验。它给出的是规范结论，不是准确率表。
EfE 作为描述性前提站不住。很多最会讲故事的「从非敏感推出敏感」案例，在采集、标注、评估三处都走了概念过拟合。高准确率不等于模型在推断那个构念本身。因此，不能从「AI 好像无所不能」推出「该放弃数据分类」。
推断问题仍然在。哪怕 EfE 是夸张，AI 放大推断确实冲击只靠数据类型的监管：所谓公开数据可以拼出不该公开的信息。数据经纪商、ClearviewAI、部分大模型训练都用「只收集公开数据」拿来开脱。
对策不是把公开改贴成私密，那只是权宜。情境完整性把隐私写成恰当的信息流动，规范要同时指定主体、发送者、接收者、数据类型、传输原则（同意、授权、对等交换等）。HIPAA 已经在用这套杠杆：谁能收哪类健康信息、能做什么、在什么条件下。合法性标准是：流动是否服务于该情境的目的和价值，医疗要服务诊疗，教育要服务学习。
给隐私和模型治理两边各一句硬话。
对监管：别因为 Kosinski 式「看脸识取向」就宣布分类保护破产。那些结果常常没有概念问责。数据分类仍该留着，但不能当唯一旋钮。看谁在传、传给谁、为何传、受什么约束，才能管推断。
对建模的人：从厨房水槽数据里刷出敏感构念，监管和媒体会当成「能力证明」，这篇把它写成认识论偷工。要推断抑郁或党派倾向，先写清构念、再证明数据与构念相关，准确率数字本身解释不了你到底推出了什么。
概念过拟合是诊断标签，不是可复现的测量。论文没有规定多少相关才算「概念上足够」，也没有统计 EfE 主张里有多少过拟合、多少是真推断。AlphaFold 被当作反例（蛋白质结构有五十年 PDB 标注），可前沿模型里「有理论的科学推断」和「无理论的社会推断」比例，文中没给。情境完整性五参数怎么写进 GDPR 式条文，作者自己说这篇写不完。共同作者之一就是 CI 理论提出者，框架选择有立场。文中对 2024 年美国选举与科技寡头的时评段落，和论证主线的必然关系也不紧。