开源推理引擎批量变公司:vLLM、SGLang 系创业公司商业化路线对比
AccBalanced · x · 2026-11-21
sonnetxu 指出一类新 AI 基础设施公司正从开源系统研究中长出来,并给出对应图谱(配图详细对比):vLLM → Inferact(企业级推理软件与支持),SGLang → RadixArk(托管推理与 RL 基础设施),Orca/continuous batching → FriendliAI(高性能推理平台),speculative decoding 优化 → Novita AI(含投机解码的模型服务加速),开放 kernel 与系统研究 → Together AI(编译器、kernel 与全栈推理平台)。核心观点:开源成功给了这些团队公信力、分发和技术先发优势,但客户和商业模式各不相同。
「创投」频道最新
- Anthropic 上市首日 $83/股:$130B 现金、$431B 算力承诺、$77B GPU 应付款 — LexSokolin · 2026-11-21
- 从高点回撤对比:CoreWeave -76%、Oracle -68%,跌幅均超比特币 — markjeffrey · 2026-11-21
- 曝 SEC 调查 NVIDIA,正探索潜在会计问题 — zephyr_z9 · 2026-11-21
- SpaceX 算力融资扩至 440 亿美元,创史上最大 GPU 融资纪录 — XFreeze · 2026-11-21
- 英伟达 45 天蒸发 2.4 万亿美元市值,被 Alphabet 反超 — KyeGomezB · 2026-11-21
- 英伟达市值缩水超 2.5 万亿美元,被质疑管理层谋私利 — Kyrannio · 2026-11-21