ExpSec 推出自动化多语言红队测试系统，评估大模型越狱风险
maksym_andr · x · 2026-07-23
Exponential Security Labs (ExpSec) 发布了首个关于自动化红队测试系统的研究成果。他们构建了一个多轮、多语言的自动化红队智能体，并在专门构建的区域性越狱数据集上，对近期的主流闭源模型和开源模型进行了测试。
团队表示，正在积极推进该红队智能体的研发，目标是使其成为评估智能体安全性的行业标准工具。
「安全」频道最新
- 有人认为网络能力型 agents 会让软件更安全 — mariofilhoml · 2026-07-23
- Bittensor SN26 借 OpenAI 事故推模型安全众测 — bittingthembits · 2026-07-23
- 一张漫画把训练、爬取和克隆画成 AI 战场 — rdesh26 · 2026-07-23
- Cisco 称两款开源安全小模型在漏洞检测上更省钱 — The Decoder · 2026-07-23
- CryptanalysisBench 检验 LLM 对 191 个真实密码方案的破解能力 — thegautamkamath · 2026-07-23
- YC 讨论用 AI 重建企业合规软件栈 — ycombinator · 2026-07-23