邮件Agent拦不住同形字符攻击:换一个字母即绕过关键词过滤
Spacesh1psoda · reddit · 2026-11-17
一家做邮件 Agent 的团队自曝:针对「ignore previous instructions」这类经典提示注入攻击,他们的做法是直接封禁关键词,但攻击者把 ignore 里的拉丁字母 o 换成视觉上完全一样的西里尔字母 о,模型读起来没区别,文本过滤却匹配不到,邮件顺利通过。
类似变体还有不少:字母之间夹隐藏字符、用 HTML 实体编码写字母,都能被模型正常理解却绕过简单的字符串匹配。作者做了红队自测:经人工审查通过的 4 处过滤改动,几分钟内被攻破 3 处。
给出的实操建议:如果按短语做过滤,先做文本归一化——把同形字符转回普通字母、剥掉不可见字符,再进行检查。
「编程与Agent」频道最新
- Hermes 应用曝光 Meta 未发布模型 muse-wonder-1.0,配 1M 上下文 — Teknium · 2026-11-17
- 开源模型跑在哪个 Agent 框架最好?多框架横评榜单出炉 — AxSaucedo · 2026-11-17
- Agent 该自己写校验代码还是调用工具?MCP 版本化服务的取舍 — sandeepK1125 · 2026-11-17
- poteto 谈 Agent 自主开发:6 个月基建后睡觉也能发数千 PR — 4310sy · 2026-11-17
- 腾讯混元发布 Accelerate Bench:16 个编码 Agent 优化 CPU 程序实测 — Tencent-Hunyuan · 2026-11-17
- SWE-CoWork:101 个真实任务测编码 Agent,完整交付率不足 8% — Tokenwave-AI · 2026-11-17