Agent 可靠性工具栈对比
Future_AGI · reddit · 2026-07-10
这篇帖子把生产环境里“让 agent 可靠运行”拆成了 4 层：**Tracing/Evals、Runtime Guardrails、Gateway、Self-host**，并逐一对比了 LangSmith、Langfuse、Phoenix、Braintrust、Galileo 和 Future AGI。 核心结论是：**没有一个单品能同时把 inline guardrails 和 gateway 都做好**，因此很多团队会把“埋点与评测”“运行时拦截”“模型/工具路由”拆成三套系统来拼。文中还给出表格说明各工具是否支持 OTel tracing、评测、运行时阻断、模型/工具网关，以及是否可免费自托管： - **Langfuse**：MIT 核心，适合免费自托管，强在 traces 和 evals，但 guardrails/gateway 需要外接。 - **Phoenix**：可免费运行，但许可是 Elastic 2.0，只覆盖 tracing/evals。 - **LangSmith**：成熟度高、支持 staging/production 和 rollback，但自托管要 Enterprise，且没有 guardrails/gateway。 - **Braintrust**：除了 Future AGI 之外少数带 gateway 的，但主要是事后评分，不做 inline 拦截。 - **Galileo**：能做 inline blocking/redaction，但核心平台仍是 proprietary。 - **Future AGI**：作者自己团队的产品，强调把四层整合在一起，并提供 Apache-2.0 与 Docker Compose 自托管。 最后作者给出的实践建议是：如果你只需要 traces 和 evals，**自托管 Langfuse 或 Phoenix** 可能就够了；而真正难的是如何把 guardrails 和 gateway 接到同一条运行链路上。