NVIDIA 携手 Pinterest 基于 vLLM 优化推理部署
vllm_project · x · 2026-09-15
NVIDIA AI Infra 官方宣布与图片社交平台 Pinterest 及 vLLM 项目开展合作,对外发布了详细案例链接。这是 vLLM 开源推理框架在大型互联网公司生产环境落地的又一公开案例,NVIDIA 邀请关注者了解双方的具体协作内容。
「Infra」频道最新
- Anthropic:Claude 写了 80% 代码,CI 任务量半年暴涨 25 倍 — addyosmani · 2026-09-15
- NVIDIA 发布 RTX PRO 5500 Blackwell 工作站卡,配 84GB GDDR7 — Lumpy_Phase_9539 · 2026-09-15
- 黄仁勋:中国 2030 年前将拥有 EUV,量产能力本就领先 — pstAsiatech · 2026-09-15
- Agent 重试致 token 消耗飙升,语义缓存可省 20-35% API 成本 — kashifmanzoor · 2026-09-15
- 李博杰开源 500 页《深入理解 AI Infra》,称模型是新时代操作系统 — udmrzn · 2026-09-15
- Oracle 市值冲向万亿:$300B OpenAI 大单如何重塑 AI 算力价值分配 — thedealdirector · 2026-09-15