开发者实测路由规则难挡 prompt injection,需 guard 模型

colinmcnamara 在 AustinLangChain 演讲中现场测试自家 router 抵御 prompt injection 的能力,结果并不理想:目前运行的模式规则列表只能拦截不到四分之一的注入攻击。他随后放出演讲完整视频,核心结论是基于规则的路由无法有效防御 prompt injection,需要引入 guard 模型才能真正应对这类攻击。

2026-10-15 ~ 2026-10-15 · 2 条相关