推理服务商爆发：租 B300 卖 token,毛利套利空间可达 38 美元/GPU 时
deedydas · x · 2026-10-25
- Deedy 指出大量推理服务商(inference providers)正以极快速度做到月流水 100 万美元，门槛低且持续下降。
- 核心经济学：即使按需租 B300 约 8 美元/GPU 时，运行 GLM 5.3、Kimi K3、DeepSeek 4.1 等开源模型，以合理吞吐(100 tok/s)可卖出 10-20 美元/GPU 时的 token 收入；DeepSeek 的 DeepInfer 展示闲时可达 38 美元/GPU 时。配图给出不同模型/芯片组合下毛利随利用率的曲线：GLM-5.3 on Vera Rubin 在 20% 利用率即达约 50% 毛利，而 GB300 组合需更高利用率。
- OpenRouter、Vercel 等网关聚合需求帮助提升利用率，甚至出现把中国模型 token 反卖给中国实验室的故事；但中国开源实验室开始要求达到一定规模后分成(尤以预发布模型换首日支持为条件)，抬高盈亏平衡点。
- 因为服务本质是商品化，长期会推高算力价格、压低 token 价格。理论上 neocloud(Crusoe、CoreWeave、Nebius、GMI)和大资本玩家(Modal、Fireworks、Baseten)应赢，但市场增长太快，inference.net、DeepInfra、Wafer 等新玩家也在野蛮生长。
- 风险：开源模型是否持续有竞争力、模型方是否加大寻租、模型形态改变算力需求、不同芯片改变经济账、算力紧张时谁拿得到卡。
所属事件:推理服务商借 GPU 与 token 价差套利，月入百万美元(2 条相关)→
「创投」频道最新
- Greg Isenberg 列出 39 个 AI 创业方向：把验证过的商业模式重做一遍 — FinanceYF5 · 2026-10-25
- 硅谷见闻：有人急着卖 Anthropic 老股，时差就是三年 — dotey · 2026-10-25
- 投资人:拿了风投的初创公司本就不该急着赚钱 — AccBalanced · 2026-10-25
- 宇树上市后IPO窗口关闭:具身机器人公司上市热急降温 — 量子位 · 2026-10-25
- 马斯克称 X 欲重构全球金融体系：愿景是占全球金融半壁江山 — XFreeze · 2026-10-25
- SEO 从业者：即使谷歌砍掉 Reddit 三成流量，它仍不可忽视 — gaganghotra_ · 2026-10-25