蚂蚁开源两套AI安全框架
量子位 · wechat · 2026-07-12
文章讨论了 Agent 和多模态模型带来的新安全风险：风险不再只是内容层面，而是扩展到工具调用、代码执行、感知与行为本身。作者以 Claude Code、OpenClaw 等案例说明，传统“打补丁式”安全已经不够，需要更底层的安全框架。 重点介绍了蚂蚁开源的两个框架： - **SingGuard-NSFA**：面向智能体安全，支持生成式推理与判别式分类两种模式，可在请求拦截和响应兜底两端设卡，强调风险可解释、可扩展。 - **SingGuard**：面向多模态大模型，把安全规则做成运行时输入，支持快慢思考切换，并通过 RI-Mask 提升多规则并行审核效率。 文章还提到这些框架在多项评测中取得较强结果，以及蚂蚁此前在漏洞发现、ClawAegis、第三方认证等方面的持续布局，整体指向“建立 AI 时代安全基础设施”的思路。