vLLM Office Hours 已办 59 期：76 位嘉宾 24 家机构参与的双周直播
vllm_project · x · 2026-11-07
vLLM 官方回顾了其与 Red Hat 合作的双周直播 Office Hours：截至目前已办 59 期，累计 76 位嘉宾、24 个组织参与，录像总时长约 56 小时，全部存档在 YouTube。
每期约一小时，分三段：
- 项目更新（约 15 分钟）：core committer 讲解近期版本变化
- 嘉宾演讲（约 30 分钟）：深入某一特性、硬件后端或生态项目
- 开放 Q&A（约 15 分钟）：部署与贡献问题答疑
最近一期（#58）介绍 llm-d 语义分类器 llm-d-sc：在 KV-cache 路由选 pod 之前先选模型层级，包含与 vLLM Semantic Router 的对比及 NASA 域路由概念验证。历史主题覆盖量化（11 期）、分布式推理（10 期）、架构、路由、投机解码等。活动对所有人开放，可订阅日历。
「编程与Agent」频道最新
- 开发者自做 yt-dlp 原生 Mac 下载器：支持 1200+ 站点将开源 — jaivin · 2026-11-07
- 缓存回复的错大多来自“看似安全”的精确匹配，CacheVerifier 实测揭示反直觉结论 — Reasonable_Royal_621 · 2026-11-07
- Langfuse 追踪 FAQ Agent 实战工作坊：trace 变评测数据集 — Al_Grigor · 2026-11-07
- 七个浏览 Agent 只拦住一个：网站如何知道是“谁”授权的 — Pale_Painting_6271 · 2026-11-07
- 多智能体团队三轮 QA 仍难对齐设计稿，开发者求评估方案 — kevinpiac · 2026-11-07
- 重度用户日耗 12-16 小时：模型潜力远未挖尽，瓶颈是创造力 — tengyanAI · 2026-11-07