LLM 推理价格趋零而 GPU 租金大涨

从业者 jondurbin 指出 LLM 推理行业存在经济悖论:推理价格呈「竞速归零」之势,GPU 价格却在「竞速奔向无穷」。他提供的数据显示 GPU 租金半年上涨 27%,而固定智能价格暴跌 63%,背离不断加剧。其项目 Parallax 试图弥合这一差距。另有 Engy 开发者回应称,团队日 token 吞吐虽超 Chutes,但 token 数只是趣味指标,同时还有 221 张 GPU 以高于成本的时薪租出,商业模式可持续。

2026-10-12 ~ 2026-10-12 · 3 条相关