Nathan Lambert 拆解开源模型推理份额:数据噪音大但增长近指数级

Interconnects (Nathan Lambert) · rss · 2026-11-05

Nathan Lambert 发布研究笔记，讨论如何测量开源模型的推理市场份额，承认现有指标都极不精确：平台数据有噪音、初创公司数据带营销色彩、公开评测也不完美。他维护的 Interconnects Dashboard 免费聚合全网开源模型采用与性能数据。

关键数据与判断

以 Baseten、Fireworks、Together AI 三家开源推理初创公司为主要风向标，辅以 OpenRouter 公布的开源模型 token 占比；超大规模厂商（如 Bedrock、Azure model garden）大概率也有大份额但未按类别披露
开源推理 token 量呈近指数增长，且尚未计入 GLM 5.2 在开源 agent 上的跃升
Fireworks 在本周首届公司大会上宣布每天为客户定制模型服务超过 40T tokens，该垂直业务自夏季以来增长超 2 倍，预计秋季总盘子远超 100T tokens/日
用 Google 财报披露的全平台 token 量做对比锚点，叠加开源推理平台数据绘制对比图

核心问题：开源模型推理市场是否在增长？相对 OpenAI/Anthropic 是否只是零头？笔记将主要付费开放，政策研究者可申请折扣或免费访问。

「创投」频道最新