System Prompt 也可能被淹没

WesEklund · x · 2026-07-12

作者补充说,**护栏很重要**。 引用内容的核心观点是:模型并不会天然把 system prompt 视为高于其余上下文的绝对指令;在实际上下文窗口里,它们会一起参与权重计算。也就是说,一个足够巧妙的用户消息,确实可能在效果上“淹没”system prompt。

所属事件:系统提示词并非绝对安全边界(2 条相关)→

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →