面向生产LLM的安全网关
Accurate-Cookie9491 · reddit · 2026-07-19
作者在搭建一个面向生产环境 LLM 应用的 AI 安全网关，强调很多现有安全产品只检查单条 prompt/response 是否恶意，但这还不够。 他们的目标是解决更上层的问题： - 按用户/租户做策略控制 - 区分员工与客户的不同权限 - 统一约束 OpenAI、Gemini 和自建模型 - 记录完整审计链路，便于事后调查 - 做跨会话的异常/滥用检测、限流和威胁画像 产品包含 Rakshak 作为实时护栏引擎，Kavach 作为控制平面；目前有可运行 demo，正在找真实聊天机器人、RAG、内部 copilots 和 agent 团队试点。