开源企业AI全家桶

alichherawalla · reddit · 2026-07-13

作者把自己开源的方案称为“AI 版 AWS”:用一个 `docker compose` 把企业落地 AI 所需的开源组件拼成可运行的整体,目标是让组织内的 AI **合规、可审计、可观测**。 核心组件包括: - `LiteLLM` 作为模型网关,统一 OpenAI 兼容接口,连接本地或云端模型 - `LLM Guard + Presidio` 做 PII 脱敏、提示注入/毒性/密钥检测等护栏 - `OpenBao` 管理密钥,`Langfuse` 做观测与追踪,`OpenSearch` 做审计与 SIEM - `Marquez` 记录数据血缘,`Temporal` 承载持久化 agent 运行 - `Qdrant` 做向量检索,`Airbyte + dbt + ClickHouse + Great Expectations` 负责数据流、仓库与质量,`Kestra` 做编排,`Ragas + Evidently` 做评测与漂移监控 作者认为真正的突破点不是这些组件本身,而是把它们“连成一套”之后,再叠加一个类似 `lovable / bolt.new / replit.dev` 的企业版界面:先定义好管道与 RBAC,员工就能用自然语言搭建受约束的工作流和应用;审核、人机协作和自治 agent 也都被限制在既定规则内。

所属事件:开源企业AI治理栈瞄准“AI版AWS”(2 条相关)→

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →