开发者实测路由规则难挡 prompt injection,需 guard 模型
colinmcnamara 在 AustinLangChain 演讲中现场测试自家 router 抵御 prompt injection 的能力,结果并不理想:目前运行的模式规则列表只能拦截不到四分之一的注入攻击。他随后放出演讲完整视频,核心结论是基于规则的路由无法有效防御 prompt injection,需要引入 guard 模型才能真正应对这类攻击。
2026-10-15 ~ 2026-10-15 · 2 条相关
- 开发者实测:自家路由规则只挡下不到 1/4 的 prompt injection — colinmcnamara · 2026-10-15
- AustinLangChain 演讲全文:路由规则拦不住 prompt injection,guard 模型才行 — colinmcnamara · 2026-10-15