EuroSafeGuard 发布首个全开源宪法分类器护栏
EuroSafeAI 联合多伦多大学 Vector Institute、马普所等机构发布 EuroSafeGuard，是首个完全开源的宪法分类器护栏，对标 Anthropic 未公开的 Constitutional Classifiers++（CC++）。在同等误报率校准下，该系统对 held-out 越狱模板的平均召回率达 93%，位居参与比较的 16 个开源护栏之首；在 100B 模型上运行整套系统仅增加约 1% 算力开销。宪法、训练数据、训练好的护栏和代码全部开源，用户可自行运行、审查、攻击并适配自己的策略。
已确认
- 三级级联架构：廉价的激活探针读取模型 hidden states 为全部请求打分；可疑请求进入微调的输入分类器（Qwen3.5-9B）；再由交换分类器把请求与模型回复一起打分，三者加权求解决定放行或拦截
- 级联设计使重型分类器仅处理约 10% 的可疑请求，多数请求由轻量探针直接放行
- 性能超过 HaloGuard 等此前最强的开源护栏，检出率居 16 个开源护栏之首
为什么重要
- Anthropic 的 CC++ 并未公开，社区此前无法复现或审查这一护栏设计；EuroSafeGuard 提供了首个可完全审查、可攻击测试、可按自身策略定制的开源替代
- 级联架构证明高强度越狱防护可以极低的算力成本部署于全量流量，具备实际生产落地价值
2026-11-07 ~ 2026-11-07 · 5 条相关
一手来源
- 首个全开源宪法分类器护栏发布：对标 Anthropic CC++，越狱检出率 93% 居首 — ZhijingJin ·
- EuroSafeGuard 开源宪法分类器护栏，越狱检出率超 16 个开源护栏 — ZhijingJin ·
- EuroSafeGuard 只用 1% 额外算力，实现全量流量的越狱防护 — ZhijingJin ·
- 【源头】首个全开源宪法分类器护栏发布：对标 Anthropic CC++，越狱检出率 93% 居首 — ZhijingJin · 2026-11-07
- 详解 EuroSafeGuard 三级级联：激活探针初筛，可疑请求才进重型分类器 — ZhijingJin · 2026-11-07
- 【源头】EuroSafeGuard 开源宪法分类器护栏，越狱检出率超 16 个开源护栏 — ZhijingJin · 2026-11-07
- 【源头】EuroSafeGuard 只用 1% 额外算力，实现全量流量的越狱防护 — ZhijingJin · 2026-11-07
- EuroSafeGuard开源复刻Constitutional Classifiers，拦截越狱优于最强开源护栏 — ZhijingJin · 2026-11-07