开源 AI 红队工具箱汇总：涵盖越狱与提示注入测试
Shruti_0810 · x · 2026-07-30
博主分享了一个开源的 AI 安全测试工具库，汇集了数百种专业级别的安全测试工具。该资源主要包含以下类别：
- LLM 越狱框架
- 提示注入测试工具
- AI 红队自动化智能体
- 模型提取工具
- 供应链攻击演示
博主警告称，目前大多数部署的 AI 应用都无法抵御这些攻击。在 LLM 投入生产环境前如果不进行安全测试，将面临巨大的漏洞暴露风险。
所属事件:GitHub 热门项目汇总 AI 安全与红队测试工具(2 条相关)→
「编程与Agent」频道最新
- 免费课程：如何优化LLM分类成本，保持性能不降 — HamelHusain · 2026-07-30
- 生产环境AI模型静默降级？用金丝雀测试检测模型漂移 — Ok-Independent3290 · 2026-07-30
- 企业级 AI 系统设计：最大化可靠性而非盲目堆砌智能 — iamKierraD · 2026-07-30
- 把画海雀梗变成真基准：用 TRL 与 HF 训练模型 — SergioPaniego · 2026-07-30
- AI 智能体为何做不了严谨数学？缺乏稳定认知机制 — ZeroStateReflex · 2026-07-30
- GrokTerm 终端工具推出 Windows 版本 — Daniel_Farinax · 2026-07-30