自建推理机器vs实验室硬件成本对比

NYCounihan · x · 2026-07-07

作者对比：自建能跑最强开源模型的机器需 25–30 万美元，而实验室为承载旗舰模型的硬件付约 300 万美元；即便如此，推理的毛利率（不含训练与销售管理费用）仍超 50%。