Plimsoll:开源 Agent 技能,专测提示词注入与工具滥用

javrenn · reddit · 2026-08-20

开发者发布了 Plimsoll,这是一个开源的 Agent 技能,专门用于红队测试 LLM 应用和 Agent。它旨在检测提示词注入、越狱、数据泄露以及工具滥用等问题。该项目源自作者加入 Anthropic 网络验证计划后的工作成果,致力于明确模型在调用工具时的安全边界。

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →