Relace 单日处理 1 万亿 token,占 DeepSeek v4 Flash 37% 流量
stuffyokodraws · x · 2026-09-12
推理服务商 Relace 宣布其单日 token 处理量突破 1 万亿,并公布了各模型流量占比:占 DeepSeek v4 Flash 流量的 37%、GLM 5.3 Flash 的 25%,以及 Kimi K3 的 1.6%。
这一数据侧面反映了中国开源模型在海外的实际调用规模与推理服务的流量分布,值得关注。
「Infra」频道最新
- NVIDIA 发布 DeepSeek V4.1 Flash 的 NVFP4 量化版,665B 参数 — TheZachMueller · 2026-10-31
- Clover-35B-A3B 量化后仅 29.4GB，64GB Mac 跑出 42 tok/s — viveky259 · 2026-10-31
- Liquid Agent 登陆 Linux：LFM3 小模型全本地运行，一条命令装好 — JosephJacks_ · 2026-10-31
- 纯本地办公 AI 栈：OCR、Agent、RAG、语音六个开源模型组合 — HowDevelop · 2026-10-31
- a16z 数据：GPU 租金三个月涨 106%，token 价格反跌 58% — a16z · 2026-10-31
- vLLM nightly 支持 PLE 磁盘卸载,PR 标签现「Qwen4Exp」引 Qwen4 猜想 — rmhubbert · 2026-10-31