开发者实测:自家路由规则只挡下不到 1/4 的 prompt injection
colinmcnamara · x · 2026-10-15
colinmcnamara 在 AustinLangChain 演讲中现场测试自己的 router 能否抵御 prompt injection。结果很诚实:目前跑的模式规则列表只拦下不到四分之一的注入尝试,而他实测的 guard 模型拦下了大多数。下一步是把 guard 模型接进线上链路。
所属事件:开发者实测路由规则难挡 prompt injection，需 guard 模型(2 条相关)→
「编程与Agent」频道最新
- Epic 晒 vibe code 加速器，反被 Community Notes 提醒安全风险 — mark_k · 2026-10-15
- 56% 美国旅行者已用 AI 规划行程,代理式旅游成新分销渠道 — robertonappe · 2026-10-15
- 2026 年 AI+数据人差异化打法:RAG+Agent 搭决策建议机 — mdancho84 · 2026-10-15
- Amazon 封禁 Meta 购物 agent Muse,代理式商务入口之争开打 — robertonappe · 2026-10-15
- 省 token 心法:让便宜模型做决策,贵模型只管写 — Arindam_1729 · 2026-10-15
- Zenzap 融资 4400 万美元,聊天群里人机协作办公 — testingcatalog · 2026-10-15