面向生产LLM的安全网关
Accurate-Cookie9491 · reddit · 2026-07-19
作者在搭建一个面向生产环境 LLM 应用的 AI 安全网关，强调很多现有安全产品只检查单条 prompt/response 是否恶意，但这还不够。
他们的目标是解决更上层的问题：
- 按用户/租户做策略控制
- 区分员工与客户的不同权限
- 统一约束 OpenAI、Gemini 和自建模型
- 记录完整审计链路，便于事后调查
- 做跨会话的异常/滥用检测、限流和威胁画像
产品包含 Rakshak 作为实时护栏引擎，Kavach 作为控制平面；目前有可运行 demo，正在找真实聊天机器人、RAG、内部 copilots 和 agent 团队试点。
「编程与Agent」频道最新
- Kolab 基准：真人屏幕录像揭示 AI Agent 高估自身协作质量 — minnesotanlp · 2026-10-27
- 开发者吐槽 Claude 烧 token：同样工作 GPT 省 3 倍用量更便宜 — haider1 · 2026-10-27
- InfoWorld：别把模型当地基，Agent 架构必须做到 48 小时可换模型 — rseroter · 2026-10-27
- 便宜模型跑 Agent 反而更贵：线性往返堆爆上下文窗口 — vasuman · 2026-10-27
- 5 千行 Rust 单二进制看板 Kanzo：给 Claude Code 当任务板 — allmudi · 2026-10-27
- 「人类审批就安全」是幻觉：approval fatigue 与 Agent 风险设计 — Efistoffeles · 2026-10-27