开源模型推理量被低估:TogetherAI 令牌数 Q1 到 Q2 涨超 10 倍
GutenLeinad · x · 2026-09-21
- 针对“开源模型使用量小、严肃 SWE 仍主要靠 OpenAI/Anthropic”的分析,GutenLeinad 指出该分析用的是 Q1 甚至 Q2 之前的数据,严重过时。
- 实际增长:TogetherAI 的 token 数从 Q1 到 Q2 增长超 10 倍,Fireworks 增长约 3 倍,Baseten 体量已与前两家相当,OpenRouter 也增长超 5 倍。
- 结论:开源模型托管商虽是极少数头部玩家,但其 token 消耗正快速膨胀,lowball 数据会低估开源模型在企业与产品中的真实使用。
所属事件:开源模型仅占AI收入10%？分析被指数据严重过时(6 条相关)→
「Infra」频道最新
- 一行改动让 RTX 20 系跑 Qwen-Image 2.1 速度翻倍 — xrailgun · 2026-11-04
- 4×RTX 3090 本地跑 DeepSeek V4.1 Flash:524k 上下文 30-40 tok/s — chota23 · 2026-11-04
- 太空 AI 数据中心账本：发射成本需从 3000 美元/公斤降到约 200 美元 — shashib · 2026-11-04
- NVIDIA 的赚钱之道：刻意不做全栈垂直整合 — AccBalanced · 2026-11-04
- eggshell 发布：跑原生 Linux 二进制的裸机 Go unikernel — evilsocket · 2026-11-04
- GitHub 大面积故障：PR、Git 操作、Issues 与 Actions 全线降级 — aniketmaurya · 2026-11-04