开源 Tamga 演示:README 里藏 HTML 注释注入指令,在模型读到前拦截

tatar-sh · reddit · 2026-10-13

作者演示了一种间接 prompt injection 攻防:一个 README 渲染后是正常的安装指南,但源码里的 HTML 注释藏有「忽略你的准则」的隐藏指令,agent 读取时会被注入。其开源工具 Tamga 在下一次请求时扫描工具结果,在模型读到之前直接以 403 拦截,也可配置为仅剥离该条工具结果、让会话继续。

作者自建的 held-out 测试集上,Tamga 拦截了 78/78 个攻击,85 条正常文本零误报;但他坦承这只能说明「符合我自己的样例」,不代表泛化到真实流量,欢迎更难的测试用例。代码开源于 GitHub(yatuk/tamga)。