PII 泄露根因:把脱敏当文本替换而非数据分类问题

arpit_bhayani · x · 2026-11-04

作者指出当前 AI 系统泄露 PII 的根因几乎一致：人们把脱敏当成文本替换问题，而非数据分类问题。常见反模式是支持机器人或 RAG 管道接入真实客户数据后，用正则删掉邮箱和电话就上线。正则只能处理固定格式的 PII（卡号、邮箱），抓不住依赖上下文的敏感信息，如「4B 病房的那个病人」——敏感点在 token 之间的关系而非模式。经典 NER 能借助上下文识别人名等实体，但会漏掉公司内部特有格式的标识符。真正有效的是三层叠加：1) 针对固定格式数据的结构化检测器；2) 针对自由文本实体的 NER；3) 针对自有 schema 的领域规则层。