开源企业AI治理栈OGAC
alichherawalla · reddit · 2026-07-13
作者开源了一个面向企业的“**AWS for AI**”式整合方案，目标是用一套 Docker Compose 把公司内部的 AI 基础设施一次性搭起来。 ### 这套栈包含什么 - **LiteLLM**：统一模型网关，兼容 OpenAI API。 - **LLM Guard + Presidio**：PII 脱敏、提示注入、防毒性、密钥泄露等护栏。 - **OpenBao / Langfuse / OpenSearch / Marquez**：分别负责密钥、观测追踪、审计与血缘。 - **Temporal / Kestra / Airbyte / dbt / ClickHouse / Qdrant / Ragas / Evidently**：覆盖 agent 持久化执行、编排、数据管道、仓库、向量检索和评测漂移。 ### 作者强调的卖点 - 不是单个工具，而是把这些开源组件**真正串起来**。 - `docker compose up` 后，就能得到一个可治理、可审计、可观测的企业 AI 平台。 - 还加了一层类似 **lovable / bolt.new / replit.dev** 的企业应用构建层，让员工在既定规则和 RBAC 下，用自然语言搭工作流和应用。 - 重点场景包括：人类审核、报告生成、以及受限的自主 agent 流程。 项目名是 **OGAC (Off Grid AI Console)**，作者还提供了只读 demo 和 GitHub 链接。