W&B实测：Agent防Prompt注入工具对比
wandb · x · 2026-07-16
W&B 进行了一项 AI 安全测试：将同一封恶意邮件分别输入两个不同的 AI Agent。其中一个 Agent 直接泄露了客户的 SSN（社会安全号码）和信用卡号；而另一个 Agent 则在模型读取前就成功拦截了 Prompt 注入，隐去了敏感数据，并依然生成了可用的回复。测试表明，这种安全差异主要取决于 Agent 使用的安全防护工具。
「编程与Agent」频道最新
- huggingface_hub 2.3.0 发布：百万文件列取从分钟级降到 20 秒 — lhoestq · 2026-10-27
- Nous Research 发布 Advanced Delegation 插件，子智能体可按任务选模型 — NousResearch · 2026-10-27
- 不上 X 的牙医邻居玩转 Codex，编程门槛正在消失 — gabrielchua · 2026-10-27
- 斯坦福 PaperFormalizer：把论文自动转成 Lean 验证版本 — StanfordUniversity · 2026-10-27
- TRL 异步 GRPO 训练器默认启用 score centering + masked importance sampling — _lewtun · 2026-10-27
- Firecrawl 推 a16z Speedrun 创始人专属福利,并披露 7500 万美元 B 轮 — devdigest · 2026-10-27