OpenRouter 巨量 token 流量被指夸大算力需求,缓存命中占大头

多位开发者基于 OpenRouter 数据质疑「AI 算力需求巨大」的叙事。thdxr 估算 OpenRouter 全部 DeepSeek 流量几乎可由单个 GB300 机架承载;shoucccc 披露 OpenRouter 日处理 5.2T tokens,而自己仅用 64 块 B300 和 64 块 M890P 就处理了约 1.8T。另有分析指出其每日约 10 万亿 token 中 99% 是缓存命中,来自 agent 反复读同一段对话,真实新增算力需求远小于表观数字;teortaxesTex 则以 DeepSeek 日耗 155T token 反推,认为全球推理 token 消耗可能远超外界想象,观点出现分歧。

2026-10-28 ~ 2026-10-29 · 4 条相关