safeagents judge bench v2 上线 HF 榜单,小模型任 agent 安全裁判

safeagents judge bench v2 发布,收录 661 条被 safeagents 扫描器标记的真实 agent 工具调用,每条标注 allow/block 及滥用信息,并在 Hugging Face 上线官方基准榜单,按 balanced accuracy 排序。最新排行榜中 Cloudflare clef-flash 以 0.893 居首,展示了用小模型充当 agent 安全裁判的可行性。

2026-11-10 ~ 2026-11-10 · 3 条相关