开源推理栈的优势更强了
IgorCarron · x · 2026-07-11
作者提到，团队在 **2023 年** 不得不放弃自建推理系统，因为当时 **vLLM** 还处于早期，而开源生态最终会在推理能力与工程化成熟度上形成很强的优势。 他还表示，自己所在公司 **LightOn** 对 Hugging Face 生态做了大量贡献，相关内容在 HF 上的下载量已超过 **6300 万**。
IgorCarron · x · 2026-07-11
作者提到，团队在 **2023 年** 不得不放弃自建推理系统，因为当时 **vLLM** 还处于早期，而开源生态最终会在推理能力与工程化成熟度上形成很强的优势。 他还表示，自己所在公司 **LightOn** 对 Hugging Face 生态做了大量贡献，相关内容在 HF 上的下载量已超过 **6300 万**。