首个全开源宪法分类器护栏发布：对标 Anthropic CC++，越狱检出率 93% 居首
ZhijingJin · x · 2026-11-07
Anthropic 的护栏 Constitutional Classifiers++ 并未公开，EuroSafeAI 联合多伦多大学 Vector Institute、马普所等机构发布 EuroSafeGuard，首个完全开源的同设计护栏。系统分三级：激活探针以近零成本给所有请求打分，可疑请求进入输入分类器（Qwen3.5-9B）和读取回复的交换分类器，三者加权决定放行或拦截。
关键结果
- 与 16 个开源护栏在同误报率下对比：held-out 越狱模板平均召回率 93%（第二名 HaloGuard 90%），四组越狱集中三组第一
- PAIR 搜索攻击下仅 21% 行为穿透输入级，最强开源护栏为 49%
- 面对未防护模型的端到端测试同样领先
宪法、由其生成的训练数据、训练好的护栏与代码全部开源，还附带了 CC++ 级联的开源复刻 EuroSafe-CC++ 供对比与扩展。论文、代码与模型均已发布。
所属事件:EuroSafeGuard 发布首个全开源宪法分类器护栏(5 条相关)→
「安全」频道最新
- a16z：医疗勒索软件攻击 6 年涨 6 倍，AI 正消灭补丁时间差 — luisdans · 2026-11-07
- 伯克利论文：自动挖掘 6575 个微调数据集，可隐蔽诱导模型有害行为 — rohanpaul_ai · 2026-11-07
- 密码学家讨论：如何让模型确认提示历史中没有隐藏内容 — matthew_d_green · 2026-11-07
- 盘点公开批评的实效：750 亿美元转向 OpenAI 基金会、多条封口条款撤销 — KatjaGrace · 2026-11-07
- Epoch 测试：GLM 5.3 约 1000 美元复现 6 个 Firefox N-day 漏洞攻击，无提供商拦截 — matthew_d_green · 2026-11-07
- Anthropic 招股书罕见警告:其技术或对人类构成灾难性乃至生存风险 — jeremyakahn · 2026-11-07