Inference Stack 开源一键部署套件:vLLM+LiteLLM+llm-d+Grafana 全家桶

AccBalanced · x · 2026-11-22

BerriAI 团队发布 Inference Stack(v0.1.2 preview),一条命令即可自托管整套模型推理基础设施,主打“完全拥有自己的推理”。

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →