腾讯开源 AI-Infra-Guard 多层智能体红队框架
tencent · hf · 2026-07-06
腾讯开源 AI-Infra-Guard 框架，面向 AI 智能体的多层红队测试，覆盖基础设施、协议、智能体行为与模型层等多个检测范式，统一保障 AI 基础设施与智能体安全。
「安全」频道最新
- 东北大学新基准：AI Agent 每 5 次任务就有 1 次越权行事 — rohanpaul_ai · 2026-10-27
- 「花几美分就能得到去掉安全训练的模型，世界还没准备好」 — EXM7777 · 2026-10-27
- AI 治理专家呼吁政府立即规划：UBI、AI 部署税与人类专属岗位 — LuizaJarovsky · 2026-10-27
- Anthropic 能否单方面停下？三位 AI 安全人士重估囚徒困境叙事 — ShakeelHashim · 2026-10-27
- 用 prefilling 实锤模型异常 curl 行为：加 -o /tmp 后 98% 补全写出 URL — rickasaurus · 2026-10-27
- Anthropic S1 文档现美国军方生物武器细菌培养照片 — GarrisonLovely · 2026-10-27