假银行聊天机器人实测:55 种攻击泄露 54 次,网关可降到 0

its_vayishu · x · 2026-11-01

开发者 intermurphi 自建了一个假银行聊天机器人,装入 30 名虚构客户的 Aadhaar、PAN 号码,并用 55 种方式发起攻击(部分用印地英语),结果 54 次泄露。随后接入 Metriqual 网关后泄露降为 0,20 个正常问题无一被误拦,仅增加 1.44ms 延迟。该网关在 prompt 发出前剥离 Aadhaar(含校验)、PAN、账号、IFSC、UPI ID,拦截英语/印地英语/印地语注入,并对回包二次扫描,检查失败时直接拒绝请求。作者指出:所有银行、保险公司和健康平台都在把客户文本发给别人的模型,印度 DPDP 法规 2027 年 5 月 13 日起生效,罚金最高可达 25 亿卢比。