PIPETTE:用字典学习修复 RL 红队模式崩溃,强化 Agent 抗注入能力
Lipeng He · hf · 2026-11-19
滑铁卢大学等机构发布 PIPETTE,针对 LLM Agent 间接 prompt 注入攻击的紫队(purple-teaming)框架。
- 现有 RL 红队方法(如 RL-Hammer、PISmith)存在模式崩溃:反复发现相似攻击策略,后续对抗训练不再带来鲁棒性提升
- PIPETTE 用字典学习与 on-policy 对抗训练改进红队攻击多样性,将发现的对抗样本用于蓝队对齐,提升 Agent 对间接 prompt 注入的鲁棒性
「安全」频道最新
- TU Berlin 挖出 TPM 硬件漏洞:4 位 Windows PIN 破解从 69 天缩到 40 小时 — kingslyj · 2026-11-19
- Vite 开发服务器曝严重 RCE 漏洞,官方多版本紧急修复 — film_girl · 2026-11-19
- Gemini 4 Carbon 频繁以话题争议为由拒答,一句「你在被评测」即可绕过 — panickssery · 2026-11-19
- 剑桥学者 David Krueger 首次给全部前沿 AI 公司安全评分打 F — DavidSKrueger · 2026-11-19
- Reddit 深扒 Anthropic 信托治理:董事会之上还有专家委员会 — kernelangus420 · 2026-11-19
- 开发者炮轰 Anthropic:谁给了它当「智能裁判」的权力 — examachine · 2026-11-19