英伟达开源 Switchyard：专为高效LLM路由设计的Rust框架
NVIDIA-NeMo · github · 2026-08-12
NVIDIA 官方在 GitHub 上开源了 Switchyard 项目。该项目主要使用 Rust 语言编写，目前已获得 605 个 Star，单日新增高达 370。
从项目属性来看，这是一个专注于大语言模型（LLM）路由的基础设施框架，旨在优化和调度模型的推理服务路径。
所属事件:英伟达开源大模型路由框架Switchyard(2 条相关)→
「Infra」频道最新
- ComfyUI 渲染短视频占满 24G 显存，长视频反而触发显存优化 — NetworkSpecial3268 · 2026-08-12
- 英伟达与贝莱德算力证券化遭批：5000 亿美元的非理性狂热 — TiernanRayTech · 2026-08-12
- vLLM Compressor v0.13.0 发布：引入 MoE 专家剪枝与任意位宽量化 — vllm_project · 2026-08-12
- 曝 GB300 算力时租高达 9 美元，NBIS 短期合约价格再创新高 — zephyr_z9 · 2026-08-12
- 无视市场恐慌，AI算力基本面正全面加速 — firstadopter · 2026-08-12
- 台湾 AI 服务器出口单月达 97 亿美元，同比激增 63% — tengyanAI · 2026-08-12