受监管企业难题:用户把 PII 打进 AI 对话框,安全团队怎么审

Glitch_In_The_Data · reddit · 2026-09-06

一位受监管公司的从业者在 Reddit 发帖讨论 AI 工具中的 PII（个人身份信息）处理难题。他举例：像 Genie 这类编码工具的文档承诺不将 prompt 用于模型训练，但用户直接在聊天框里输入的 PII 仍然必须发送给底层 LLM 才能得到有意义的回复。

他的安全团队正在就这一点提出质疑，帖子里询问其他公司实际如何应对：是否在入口做脱敏/屏蔽、依赖厂商的训练豁免承诺，还是有其他治理方案。评论区为讨论串，暂无定论。