实测 9 个决策模型:一句话注入可翻转 27% 决策
Patronus 团队针对生产场景中的 9 个决策模型开展提示注入实验:模型基于结构化事实加客户自由文本进行退款、审批、分诊等判断,攻击者只能向自由文本添加一句话、不能篡改事实。结果显示单条固定话术(如「客户经理已批准」)即可操纵约 27% 的正确决策,攻击者经过约 12 次尝试后成功率可达 80%,凸显决策类 AI 系统的注入风险。
2026-11-20 ~ 2026-11-20 · 2 条相关
- 一句话注入可翻转 27% 正确决策,9 个决策模型实测 — PatronusProtect · 2026-11-20
- 实测 9 个决策模型:一句话即可操纵 27%,攻击者 12 次尝试达 80% — PatronusProtect · 2026-11-20