测试客服 Agent 的 6 类攻击面清单,多数团队漏了最后一项
vivvvekredddit1122 · reddit · 2026-11-15
作者总结了自己长期测试面向客户的 agent 时必查的 6 类问题:
- 先摸清 agent:画出它的工具、权限与策略边界;
- 审批规则:能否被话术诱导批准不该批的操作(如超期退款);
- 所有权校验:能否让用户操纵不属于他的订单/账户;
- 多轮诱导:分多条消息慢速铺垫而非一次性直接索取;
- 植入文档:藏在 agent 会检索到的内容里的指令(prompt injection);
- 回归正常用例:加固之后,真实客户还能正常拿到合法退款吗?
作者强调大多数团队会跳过第 6 项,而过度加固导致的误伤 bug 往往藏在这里。
「编程与Agent」频道最新
- Anthropic 设计师 Nate Parrott 拆解 Claude Design 工作流与反 AI slop 五招 — petergyang · 2026-11-15
- Perplexity Agent 用 20068 笔触把照片画成油画，全程浏览器内完成 — jeffgrimes9 · 2026-11-15
- 测试全绿却双倍退款:一次 Agent 幂等事故暴露输出层测试盲区 — tom_mathews · 2026-11-15
- 开发者第三次尝试后全面转向 T3 Code，称界面优于 ChatGPT 桌面版 — aniketapanjwani · 2026-11-15
- DeepMind 用 AlphaProof Code 四周验证 Signal 密码学代码 — dl_weekly · 2026-11-15
- 哪些步骤配用 Agent,哪些该留在固定流程?一个预约案例拆解 — AlarmingPepper9193 · 2026-11-15