云厂商把闲置 GPU 风险转嫁给客户:按吞吐量预留下单遭吐槽

AAAzzam · x · 2026-09-16

开发者 thdxr 吐槽：目前所有推理服务商（包括大云厂商）都要求客户预留吞吐量（reserve throughput），等于让客户为闲置 GPU 承担风险。他回忆在 AWS 出现之前，你无法按分钟级别大规模租用服务器——如今这种倒退有些令人错愕。

AAAzzam 讽刺地回应：要是有一个「梦幻推理服务商」能让你不用预留吞吐量就能用上 GPU 就好了——点出按需付费的 GPU 推理仍是市场空白。