EuroSafeGuard 开源宪法分类器护栏，越狱检出率超 16 个开源护栏
ZhijingJin · x · 2026-11-07
EuroSafeAI 团队发布 EuroSafeGuard，首个完全开源的 Constitutional Classifiers++ 风格护栏。在同等误报率校准下，它对 held-out 越狱模板的平均召回率达 93%，超过 HaloGuard（90%）等 16 个开源护栏；面对 PAIR 搜索攻击，仅 20% 的攻击行为能穿透（最强的其他开源护栏为 49%）。
所属事件:EuroSafeGuard 发布首个全开源宪法分类器护栏(5 条相关)→
「安全」频道最新
- 为配合行政令美普查局问卷AI改称SI，“不知道”回答激增 — TaniaBabina · 2026-11-07
- Xbow 发布前沿模型攻防安全评测：选模型要看预算 — moyix · 2026-11-07
- 美国印第安纳州布卢明顿市全票通过史上首部「禁超级智能」法令 — DavidSKrueger · 2026-11-07
- AI 自动逆向成威胁：安全 Agent 真实代码库攻击成功率 91.3% — lxfater · 2026-11-07
- Goodfire 研究探针可解释性：再训练后概念会移动而非消失 — mathildepapillo · 2026-11-07
- 德州数据中心新规会毁掉 AI 吗?播客拆解二阶效应 — thursdai_pod · 2026-11-07