W&B实测：Agent防Prompt注入工具对比
wandb · x · 2026-07-16
W&B 进行了一项 AI 安全测试：将同一封恶意邮件分别输入两个不同的 AI Agent。其中一个 Agent 直接泄露了客户的 SSN（社会安全号码）和信用卡号；而另一个 Agent 则在模型读取前就成功拦截了 Prompt 注入，隐去了敏感数据，并依然生成了可用的回复。测试表明，这种安全差异主要取决于 Agent 使用的安全防护工具。
wandb · x · 2026-07-16
W&B 进行了一项 AI 安全测试：将同一封恶意邮件分别输入两个不同的 AI Agent。其中一个 Agent 直接泄露了客户的 SSN（社会安全号码）和信用卡号；而另一个 Agent 则在模型读取前就成功拦截了 Prompt 注入，隐去了敏感数据，并依然生成了可用的回复。测试表明，这种安全差异主要取决于 Agent 使用的安全防护工具。