LLM 护栏的「Cookie 悖论」：拦截词表不如理解上下文

_jaydeepkarale · x · 2026-08-01

文章探讨了在生产级 AI 系统中实施 LLM 护栏时面临的语义挑战。

作者以“Cookie（饼干/浏览器存储技术）”一词为例，指出在软件工程教育应用的语境下，如果简单粗暴地屏蔽该词，会破坏正常的教学课程；如果不屏蔽，又可能导致模型偏离领域去讨论甜点食谱。这种“Cookie 悖论”表明，许多词汇天然属于多个领域，因此有效的安全护栏不能仅依靠词汇表过滤，而必须具备深度理解上下文的能力。