租一张 GPU 时薪净赚 31 美元:DeepSeek 开源推理引擎 DeepInfer 算账
cneuralnetwork · x · 2026-10-23
一位开发者撰写图文/3D 交互博客,拆解 DeepSeek 新开源的推理引擎 DeepInfer 的运作方式与商业模型:
- 经济账:租一张 GPU 时薪 6.89 美元,跑 DeepInfer 并按 DeepSeek 错峰价格卖 token,按 DeepSeek 官方数字每小时可收入约 38 美元,扣掉租金净赚 31.11 美元,毛利率 82%,且 GPU 还不是自己的。
- 便宜又赚钱的原因:DeepSeek V4.1 Flash 比 Claude Opus 5.5 等前沿模型便宜约 20 倍,靠的是引擎本身的效率——DeepInfer 集群每天服务约 155 万亿 token。
- 技术脉络:博客用一个请求贯穿全流程讲解:文本转 token → prefill 读取并写下中间状态(KV notes)→ decode 逐 token 生成答案;中间状态还会写入存储,让相似 prompt 跳过 prefill,节省大量算力。
- 作者同时借此宣传自己做的 3D 图解博客平台 Flapjot(Medium 不支持 3D 图)。
「Infra」频道最新
- 200 个并发 LLM agent 跑在 1GB 内存、$6/月的 VM 上:瓶颈是自家的保存锁 — swarmagent · 2026-10-23
- Blaise 新书获盛赞,其太空 GPU 项目 Suncatcher 完成首飞 — paulnovosad · 2026-10-23
- 苹果 MLX 实测:四台 Mac Studio 跑 816B 模型,每秒 36 token — JeremyCMorgan · 2026-10-23
- 浏览器免费实测 Jetson:INT4 量化让 Cosmos3-Edge 挤进 8GB — No-Dragonfly6246 · 2026-10-23
- 魔改 32GB 版 RTX 4080 解锁算力:BF16 翻倍至 184 TFLOPS — Desperate-Sir-5088 · 2026-10-23
- 一周四篇芯片高管访谈:CUDA 之父谈 GPU 为何持续碾压 ASIC — firstadopter · 2026-10-23