推理服务商爆发式涌现：借 GPU 租价与 token 价差，月入百万美元极快
sh_reya · x · 2026-10-25
deedydas 分析当前推理服务商(inference providers)大量涌现、不少极快做到每月 100 万美元营收的经济逻辑：即使按 8 美元/GPU·小时租用 B300,许多开源模型(如 GLM、Kimi、DeepSeek 系列)在约 100 tok/s 的合理吞吐下可创造 10-20 美元/GPU·小时的 token 收入;DeepSeek 的 DeepInfer 甚至显示闲时可达 38 美元/GPU·小时。毛利率高度依赖利用率,新旧芯片(Vera Rubin)也在持续改变套利空间。
Meryem Arik 补充三点:
- 推理负载正在分化,不同技术栈针对不同客户优化,长时运行 agent(代码审查、网络安全扫描)场景增长明显;
- 推理优化里有大量 alpha,天真地部署 vLLM 在不断被压低的 OR 价格下赚不到钱, serious 的推理优化研究背景是价格战入场券;
- 硬件策略路径多样,利用闲置异构算力是重要机会。
所属事件:推理服务商借 GPU 与 token 价差套利，月入百万美元(2 条相关)→
「创投」频道最新
- Ambi 获 2600 万美元出测试期，Town 宣布同价工作翻倍 — FinanceYF5 · 2026-10-25
- Google AI 功能默认 opt-in 成其广告数据合规护城河 — VectorWireAI · 2026-10-25
- Bill Gurley:剔除泡沫年份,风投40年回报其实并不出众 — FinanceYF5 · 2026-10-25
- Netflix 市值自高点缩水约四成，真正对手是短视频无限滚动习惯 — FinanceYF5 · 2026-10-25
- 美国 VC 集中度创 2010 年以来新高，OpenAI 一家独吞 2026 年 21.5% 资金 — FinanceYF5 · 2026-10-25
- 七大顶级风投组合趋同:与大盘重合度从11-19%升至38% — FinanceYF5 · 2026-10-25