AnythingLLM和vLLM
goyalshaliniuk · x · 2026-07-13
- **AnythingLLM**：把文档变成私有 AI 助手，支持 PDF 对话、RAG、本地部署和多模型接入。 - **vLLM**：用于高效服务大语言模型，强调吞吐、速度、生产部署和 GPU 资源优化。
goyalshaliniuk · x · 2026-07-13
- **AnythingLLM**：把文档变成私有 AI 助手，支持 PDF 对话、RAG、本地部署和多模型接入。 - **vLLM**：用于高效服务大语言模型，强调吞吐、速度、生产部署和 GPU 资源优化。