Casdo Labs 开源 Tiger Guard:308M/141M 本地内容审核模型
PatronusProtect · reddit · 2026-11-19
Casdo Labs 团队发布开源内容审核模型 Tiger Guard,Apache-2.0 协议,提供 308M 和 141M 两个版本,均支持英语和德语,权重和推理代码已上架 Hugging Face。接口很简单:文本进,SAFE/UNSAFE 分数出。
团队分享了三个集成时的关键细节:
- 基础 Transformers pipeline 只检查长文本开头;官方推理助手用 2,048 token 窗口、64 token 重叠扫描全文并汇总窗口 logits。
- 单独审核回复会丢失问题上下文;把问答拼成一个输入,即使回答拒绝了 unsafe 请求也可能被正确标记。
- 动态 INT8 导出仅适用 ARM;x86 上用 FP32/FP16 或明确标注 x86-safe 的导出,团队在 EPYC 服务器上测到动态导出出现明显判定漂移。
模型检测辱骂语言和有害请求/回复,不是 prompt injection 检测器或授权层。模型卡含阈值表和各语言误报率。完整训练与数据集管线将在后续发布。
「安全」频道最新
- 康复赌瘾者怒斥 Kalshi:绕开州级博彩保护让成瘾者复赌 — paulnovosad · 2026-11-19
- Human Principal 开启内测:用密码学证明 AI agent 背后是真人 — yenkel · 2026-11-19
- 黑帽 SEO 利用 Google 索引公开 Docs 网址,操纵 AI 搜索推荐 VPN — gaganghotra_ · 2026-11-19
- Wispr Flow 笔记助手登陆 iPhone,线下客户对话也能被 AI 记录了 — rcleffke · 2026-11-19
- 美国 AI 诉讼累积至 336 起,OpenAI 一家占 119 起 — emmanuelvivier · 2026-11-19
- Citi 等美国银行将第三方 AI Agent 造成的损失转嫁客户 — emmanuelvivier · 2026-11-19