a16z:OpenRouter 周均 token 一年涨 27 倍,开源模型占 72%
TheZachMueller · x · 2026-10-26
a16z「Charts of the Week」用数据解释 GPU 租赁价格为何持续走高:
- Token 需求暴涨:OpenRouter 周均处理 token 从去年 11 月的约 6T 涨到约 165T/week,一年增长约 27 倍。
- 开源模型崛起:开源权重模型现在承载约 72% 的 token,远高于去年 11 月的约 28%;不过按支出份额算开源占比仍只有约 25% 左右。
- GPU 租金跑赢折旧曲线:各型号租金相对标准 6 年折旧价差的溢价为 H200 +143%、B200 +111%、RTX PRO 6000 +73%、H100 +54%、A100 +9%。大部分溢价是 4 月 token 需起飞后出现的。
结论:推理需求是 GPU 租赁市场供不应求的直接驱动力,开源模型吃掉了大部分调用量。文中还顺带讨论了 Netflix 增长放缓(增速降至约 12%)与美国每周媒体消费时长触顶约 26 小时的趋势。
所属事件:a16z 周报:AI 建设潮面临熟练工荒,token 需求一年涨 27 倍(2 条相关)→
「Infra」频道最新
- 砍掉向量数据库换 SQLite BM25,多智能体架构重建的三大教训 — OpenComplaint524 · 2026-10-26
- Gemma 4 26B 在 16GB Mac 离线跑 TypeScript 测试,33/40 分、31 tok/s — Mission-Sir-1614 · 2026-10-26
- 数千张 GPU 如何协同训一个模型:5D 并行拆解 — jbhuang0604 · 2026-10-26
- Stratechery 断言开放互联网进入终局,AI 初创将买不到算力 — tushaarmehtaa · 2026-10-26
- 4 张 DGX Spark 约 2.8 万美元跑 DeepSeek 官方权重:1M 上下文 66 tok/s — ricklamers · 2026-10-26
- Meta 递交 350 亿美元融资文件,另有 600 亿 ATM 计划待启动 — RihardJarc · 2026-10-26