Rust LLM推理网关SMG从LightSeek毕业并加入PyTorch生态
由 LightSeek 基金会孵化的引擎无关 LLM 推理网关项目 SMG(Shepherd Model Gateway)已正式毕业,并迁移至独立的开源社区进行维护。该项目采用 Rust 构建,近期正式加入了 PyTorch 生态,将进一步推动开源 AI 推理网关技术的发展与应用。
2026-08-01 ~ 2026-08-01 · 2 条相关
- 引擎无关的 Rust LLM 网关 SMG 从 LightSeek 毕业独立 — vllm_project · 2026-08-01
- 开源LLM推理网关SMG从LightSeek毕业,加入PyTorch生态 — zhyncs42 · 2026-08-01