GPU 租金半年涨 27%,固定智能价格暴跌 63%,推理经济背离加剧
jon_durbin · x · 2026-10-12
jondurbin 讨论 LLM 推理行业的经济悖论：模型推理价格是「竞速归零」，而 GPU 价格却是「竞速无穷」。他附上自己制作的图表（Parallax 项目的一部分）：
- 2026 年 4–10 月，H100/H200/B200/B300 顶级 GPU 租赁均价上涨约 27%（月均 +3.9%），B300 涨幅达 28%
- 同期，达到固定智能水平（GPQA Diamond 80/85/90%）的最低价格下降约 63%（月均 -15.5%）
- 趋势外推：到 2027 年 1 月，GPU 租金指数升至约 141，固定智能价格指数跌至约 22
他介绍 Parallax 试图弥合这一剪刀差，并坦言由于成本端压力上升，公司已不再「无脑堆 token」，商业上转向更谨慎的用量策略。他还提到自己在一个小账户上做精细交易（TSLA、SPCX）——对单只股票需要极深理解，$MU 的小额试单再次被套。
所属事件:LLM 推理价格趋零而 GPU 租金大涨(3 条相关)→
「Infra」频道最新
- 微软拟 2027 年起以吉瓦级规模部署自研 Maia 芯片主扛推理 — The Decoder · 2026-10-12
- 微软计划大规模部署自研 AI 芯片,瞄准削减算力成本 — pstAsiatech · 2026-10-12
- Ragged KV 让循环语言模型推理 FLOPs 直降 25%，无需重训练 — DanielKhashabi · 2026-10-12
- NVIDIA 提出 ELR:单 checkpoint 循环推理,4 圈提升 7.25 分无单圈税 — nvidia · 2026-10-12
- 吃灰旧笔记本变身家庭服务器:Proxmox+NetBird 入门指南 — aestheticedwar1 · 2026-10-12
- 实测单通电话转写仅 0.02 美元,Whisper 二次转写还纠正了实时 ASR 漏听 — Kindly-Duty272 · 2026-10-12