H200 满载也亏钱：开源推理托管算账显示选卡比选引擎更重要
teortaxesTex · x · 2026-11-03
Yingjun Wu 发布文章测算托管开源模型（以 DeepSeek V4.1 Flash 为例）的经济性，结论是租哪种 GPU 远比跑哪个推理引擎更影响盈亏：
- H200（8 卡）：满载收入仅 $1.6/GPU 时，盈亏平衡需 244% 利用率——即使 100% 满载也无法覆盖租金
- B300（8 卡）：满载收入 $21.4/GPU 时，约 35% 利用率即可保本，50%/70% 负载下毛利率 31%/51%
- GB300 NVL72：标准配置满载 $18.1，需 84% 利用率保本；用 NVIDIA Dynamo 提升至 $32.0（48% 保本）；vLLM 机架级调优可达 $64.7，24% 保本、70% 负载毛利率 66%
teortaxesTex 转评补充：想在 Hopper 上赚钱，唯一的路是自己拥有算力，租赁价差会把转租者挤出市场。
「Infra」频道最新
- 播客探讨：本地跑 AI 模型到底适不适合你？ — rez0__ · 2026-11-03
- 大量网站发现字节爬虫流量激增，规模堪比巨头级采集 — gefei55 · 2026-11-03
- 1e29 FLOPS 要 6.2 TWh 电，相当于 20 万块 GB200 跑 3.2 年 — mike64_t · 2026-11-03
- 企业用自有数据微调开源模型：成本降 95% 反超前沿模型 — pdamodaran · 2026-11-03
- 开源训练器比 ms-swift 快 58%，单卡跑出 12,523 tokens/s — incorporo · 2026-11-03
- OpenAI 推出 Grid Protectors:电网高峰时可削减 1000MW 供电 — rohanpaul_ai · 2026-11-03