详解 EuroSafeGuard 三级级联：激活探针初筛，可疑请求才进重型分类器
ZhijingJin · x · 2026-11-07
EuroSafeGuard 采用三级级联：廉价的激活探针读取模型 hidden states 给全部请求打分；可疑请求进入微调的输入分类器（Qwen3.5-9B）；再由交换分类器把请求与模型回复一起打分。三者加权求和决定放行或拦截。多数请求快速通过，只有可疑流量才做深度检查。项目由 EuroSafeAI 与多伦多大学 Vector Institute、马普所合作完成，并开源了 CC++ 级联的复刻版 EuroSafe-CC++。
所属事件:EuroSafeGuard 发布首个全开源宪法分类器护栏(5 条相关)→
「安全」频道最新
- a16z：医疗勒索软件攻击 6 年涨 6 倍，AI 正消灭补丁时间差 — luisdans · 2026-11-07
- 伯克利论文：自动挖掘 6575 个微调数据集，可隐蔽诱导模型有害行为 — rohanpaul_ai · 2026-11-07
- 密码学家讨论：如何让模型确认提示历史中没有隐藏内容 — matthew_d_green · 2026-11-07
- 盘点公开批评的实效：750 亿美元转向 OpenAI 基金会、多条封口条款撤销 — KatjaGrace · 2026-11-07
- Epoch 测试：GLM 5.3 约 1000 美元复现 6 个 Firefox N-day 漏洞攻击，无提供商拦截 — matthew_d_green · 2026-11-07
- Anthropic 招股书罕见警告:其技术或对人类构成灾难性乃至生存风险 — jeremyakahn · 2026-11-07