蚂蚁开源内生式大模型护栏 SingProbe

蚂蚁 AI 安全实验室在国家网络安全宣传周发布并开源内生式运行时安全护栏 SingProbe。与外挂审核模型重读一遍的传统方案不同，它从主模型的 hidden states 中实时读取风险信号，针对每个基座模型训练约 3 个探针，解码开销低于 0.5%，成本低且能处理复杂上下文。团队同步开放了代码、模型以及流式安全评测基准 SingStreamBench。

2026-09-15 ~ 2026-09-16 · 3 条相关

• 蚂蚁开源 SingProbe:从 hidden states 读风险的内生式 AI 护栏 — aigclink · 2026-09-15
• 蚂蚁开源大模型内生安全护栏SingProbe,解码开销低于0.5% — 智东西 · 2026-09-16

另有 1 条近重复转述:aigclink