真实 agent 注入攻防平台
quasarzero0000 · reddit · 2026-07-16
介绍了一个免费的 **Indirect Prompt Injection Arena: Tantalus**，目标是教人理解和训练真实的 agentic 安全，而不是做“让聊天机器人说脏话”式的无效越狱练习。 核心设计是一个更贴近现实的环境：AI 助手可访问文件、邮件和聊天记录，且同时存在正常工具与被污染的工具。玩家需要让它把用户工作站中的敏感数据外泄，借此学习真实世界里 agent 系统是如何被 prompt injection 利用的。 平台分两轮： - **Round 1**：有三层业内常见 guardrails，玩家要设法绕过。 - **Round 2**：只给被污染数据，且刻意设计成会被 prompt injection 的脆弱 agent；但同时移除了 Round 1 的防线，改为在模型生成流里加入一个据称可 **100% 阻止数据外泄** 的控制。 作者强调，这个统计结论来自其研究以及平台自身实践，目前 Round 2 还没有玩家成功通关。