论文讨论 LLM 上下文泄露防御
TuhinChakr · x · 2026-07-14
帖子介绍了一篇关于 **上下文泄露** 的 COLM 2026 论文：在医疗等敏感场景中，攻击者可能通过 prompt injection 从 LLM 中套出上下文里的隐私信息。 作者进一步追问：如果加上多层防御——例如在提示词里要求模型不要泄露、再用另一个 LLM 检测泄露、甚至引入差分隐私——这种泄露是否仍然会发生。论文试图系统回答这些问题。
TuhinChakr · x · 2026-07-14
帖子介绍了一篇关于 **上下文泄露** 的 COLM 2026 论文：在医疗等敏感场景中，攻击者可能通过 prompt injection 从 LLM 中套出上下文里的隐私信息。 作者进一步追问：如果加上多层防御——例如在提示词里要求模型不要泄露、再用另一个 LLM 检测泄露、甚至引入差分隐私——这种泄露是否仍然会发生。论文试图系统回答这些问题。