邮件Agent拦不住同形字符攻击:换一个字母即绕过关键词过滤

Spacesh1psoda · reddit · 2026-11-17

一家做邮件 Agent 的团队自曝:针对「ignore previous instructions」这类经典提示注入攻击,他们的做法是直接封禁关键词,但攻击者把 ignore 里的拉丁字母 o 换成视觉上完全一样的西里尔字母 о,模型读起来没区别,文本过滤却匹配不到,邮件顺利通过。

类似变体还有不少:字母之间夹隐藏字符、用 HTML 实体编码写字母,都能被模型正常理解却绕过简单的字符串匹配。作者做了红队自测:经人工审查通过的 4 处过滤改动,几分钟内被攻破 3 处。

给出的实操建议:如果按短语做过滤,先做文本归一化——把同形字符转回普通字母、剥掉不可见字符,再进行检查。

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →