vLLM 首场台湾 meetup 聚焦 GPU 优化与本地部署
vllm_project · x · 2026-07-29
- vLLM 将在 8 月 1 日于台北举办首次台湾 meetup，主题聚焦开源 LLM 推理与部署。
- 议程包括：vLLM 对 Kimi K3 的支持与 Q3 路线图、有限 GPU 上的性能优化、将 KV cache 扩展到显存之外、可信本地 LLM 的实践路径，以及高吞吐、可复现的评测方法。
- 活动由 EmbeddedLLM、IMA 台湾与台湾开源基金会共同协办，目标是把开源 AI 推理生态在台湾进一步连起来。
「公司和人」频道最新
- vLLM 维护者在 AMD Advancing AI 获 AI Core Contributor 奖 — vllm_project · 2026-07-29
- CrawlRaven 赢得 Product Hunt x OpenAI Day 并获 1 万美元 credits — ayushtweetshere · 2026-07-29
- Sam Altman 警告 AI 若被少数公司控制会很糟糕 — KeanuRave100 · 2026-07-29
- 开放权重 AI 能绕开美国关停，却绕不开北京 — shashib · 2026-07-29
- Fireworks AI 高管称开放权重应属于每家公司 — lqiao · 2026-07-29
- xAI 通过 SpaceXAI 账号发布 Grok 工程师招聘 — elonmusk · 2026-07-29