GLM-5.3 各 API 供应商每任务成本相差约 9 倍,缓存命中率是关键
ArtificialAnlys · x · 2026-10-14
Artificial Analysis 上线「Cache hit rate」与「Cost per Task」两项供应商对比指标。以 GLM-5.3 (max) 为例,25 家 API 供应商的每任务成本相差约 9 倍,主因是缓存命中率与 token 定价的组合差异:智能体负载每轮都会重发完整对话历史,大部分输入 tokens 可被缓存,因此缓存定价与命中率决定了成本差距的大头。其他数据:输出速度最快的是 LithosAI (FP4 ULTRA CHAT) 714.8 t/s,与最慢供应商相差超 11 倍;最低延迟 3.40s;混合价格最低为 Supernova (FP4) $0.41/百万 tokens,价格跨度 4.4 倍。
所属事件:实测显示不同 API 供应商每任务成本差距可达 9 倍(2 条相关)→
「Infra」频道最新
- AI 繁荣扭转增速差:台湾 GDP 增速三年反超中国大陆 — NathanpmYoung · 2026-10-14
- Neocloud 话语权格局:Patrol、Linthicum 等七人主导讨论 — DavidLinthicum · 2026-10-14
- 马斯克力挺大摩报告:SpaceX 分布式推理云是被忽视的增长引擎 — elonmusk · 2026-10-14
- Valtz 登场:Mac 上一站式本地图/视频/音频生成,16GB 内存可用 — TgoAI · 2026-10-14
- OCP 全球峰会面板:AMD Intel 谷歌微软共话 AI 时代扩展 — firstadopter · 2026-10-14
- 马斯克:建超算数据中心筹资易,落地极难,SpaceX 也觉吃力 — elonmusk · 2026-10-14