开源LLM推理网关SMG从LightSeek毕业，加入PyTorch生态
zhyncs42 · x · 2026-08-01
Shepherd Model Gateway (SMG) 是一个引擎无关的 LLM 推理网关，近期已从 LightSeek 基金会孵化毕业并独立运营。
作为 PyTorch 生态的一部分，SMG 将继续与 vLLM 等项目的维护者合作，共同优化和共享 LLM 推理的前端与网关基础设施。
所属事件:Rust LLM推理网关SMG从LightSeek毕业并加入PyTorch生态(2 条相关)→
「Infra」频道最新
- a16z：AI 基础设施需求有增无减，供应链瓶颈成产业制约 — a16z · 2026-08-01
- Together AI 深度解析：LLM 推理自动扩缩容避坑指南 — togethercompute · 2026-08-01
- Vercel AI Gateway 支持团队与项目级预算上限 — cramforce · 2026-08-01
- 特斯拉签下469兆瓦太阳能协议，提前数年锁定AI算力电力 — XFreeze · 2026-08-01
- DGX Spark 本地部署：Qwen 3.5 122B 后的模型升级选择探讨 — Voxandr · 2026-08-01
- 分析师路透：Equinix圣何塞园区扩建约200MW — BenBajarin · 2026-08-01