推理服务正把 GPU 算力变成可交易商品,商业模式剖析
ArtificialAnlys · x · 2026-09-09
jessiedong 提出一个观察:推理(inference)已经在让 GPU 算力变得可交易。推理服务商本质上是「部分算力交易商」——预留算力、在其上跑模型、再按 token 出售输出;盈利靠低价买算力并从每张 GPU 榨出更多 token,但承担部分算力闲置的风险。
他们把形形色色的算力统一成极易比价的商品(同一模型在固定价格和速度下的 token),市场中已可见分工:
- 把 GPU 产能转化为 token:Together、Fireworks、DeepInfra、Baseten
- 用自研芯片出 token:Groq、Cerebras、SambaNova
- 比较 token 价格与速度:Artificial Analysis
- 在服务商之间比价并路由请求:OpenRouter 等
对不看好 GPU 交易的人,作者建议关注推理市场。
「创投」频道最新
- 木头姐：1800年代两百家铁路破产，AI 基建潮不会重演 — CathieDWood · 2026-09-09
- 相信 AGI 也依然看好新公司：难的事情还是难 — espricewright · 2026-09-09
- AI 法律初创 Legora ARR 破 1 亿美元，年增速达 10 倍 — ycombinator · 2026-09-09
- Runway 年经常性收入达 2 亿美元，剑指 10 亿 — tlakomy · 2026-09-09
- OpenAI CFO：ARR 一月环比涨 20%，广告业务最快破 10 亿美元 — Kr00ney · 2026-09-09
- levelsio 运营十年的社区改为 $1 开放，详解定价逻辑 — PratikKadam_ · 2026-09-09