vLLM 官方致谢开发者:8 个 PR 落地 semantic-router 与 Mooncake
vllm_project · x · 2026-10-05
开发者 Abhinandan(@abhibuilds)晒出开源成绩:7 个 PR 合入 vLLM 的 semantic-router 项目,1 个 PR 合入 KVCache AI 的 Mooncake。vLLM 官方账号转发致谢,称其工作正在落地到整个推理服务生态。
「Infra」频道最新
- 从先到先得到拍卖:经济学家用 Tullock 竞赛模型推演 OpenRouter 式算力路由演化 — AccBalanced · 2026-10-05
- PyTorch 加速器工作组统一跨后端支持,降低接入门槛 — PyTorch · 2026-10-05
- 数据中心增长停滞:电网、许可与审批卡死多个 AI 数据中心计划 — DavidLinthicum · 2026-10-05
- 开源工具 RemoveMacAI 可删除 macOS 上 12GB Apple Intelligence 数据 — The Verge AI · 2026-10-05
- 4.89MB 权重跑在 5 美元 ESP32-S3 上:ItoTTS 让本地 LLM 开口说话 — Significant-Price695 · 2026-10-05
- Mac Studio M5 Ultra 256GB 跑 GLM 5.3 Flash 达 68.8 tok/s — cryotic · 2026-10-05