vLLM 团队创业做 Inferact:围绕 vLLM 打造自治推理系统

vllm_project · x · 2026-11-19

vLLM 核心开发者 Simon Mo 发文说明新公司 Inferact 与 vLLM 开源项目的关系,回应社区关于「什么留在开源项目、谁来维护、Inferact 做什么」的疑问。

Inferact 的定位是围绕 vLLM 构建一个「自治推理系统」(autonomous inference system)——一个既能改进 vLLM 引擎、又能自我改进的系统。开源项目与商业化方向的边界在该文中得到正式说明。

原文链接 →

「公司和人」频道最新

更多「公司和人」频道 AI 资讯 →