OpenRouter 巨量 token 流量被指夸大算力需求,缓存命中占大头
多位开发者基于 OpenRouter 数据质疑「AI 算力需求巨大」的叙事。thdxr 估算 OpenRouter 全部 DeepSeek 流量几乎可由单个 GB300 机架承载;shoucccc 披露 OpenRouter 日处理 5.2T tokens,而自己仅用 64 块 B300 和 64 块 M890P 就处理了约 1.8T。另有分析指出其每日约 10 万亿 token 中 99% 是缓存命中,来自 agent 反复读同一段对话,真实新增算力需求远小于表观数字;teortaxesTex 则以 DeepSeek 日耗 155T token 反推,认为全球推理 token 消耗可能远超外界想象,观点出现分歧。
2026-10-28 ~ 2026-10-29 · 4 条相关
- 算账:OpenRouter 全部 DeepSeek 流量一台 GB300 机架就能扛住 — teortaxesTex · 2026-10-28
- OpenRouter 日均 10 万亿 token 里 99% 是缓存命中,真实算力需求远小于表观数字 — AccBalanced · 2026-10-29
- OpenRouter 日处理 5.2T token,大 V 追问 GPU 到底去了哪 — teortaxesTex · 2026-10-29
- DeepSeek 日耗 155T token 反推:全球推理 token 消耗可能远超想象 — teortaxesTex · 2026-10-29