Inco AI 推理平台上线：Kimi K3 出字 287 tok/s，四款开源模型速度榜登顶

songhan_mit · x · 2026-09-04

Inco AI 推出面向智能体时代的推理平台，为 Kimi K3、MiniMax M3、GLM 5.3 和 GLM 5.3 Flash 提供高速端点，四款模型均登顶 Artificial Analysis 输出速度供应商榜首。具体成绩：Kimi K3 达 287 tok/s（为次快供应商的 2.0 倍）、MiniMax M3 达 417 tok/s（1.7 倍）、GLM 5.3 达 401 tok/s（1.3 倍）、GLM 5.3 Flash 达 458 tok/s（1.4 倍）。技术栈包括 GPU 集群级调度与缓存感知路由、自研 DFlash / DFlash 2 并行块扩散投机解码（已开源 checkpoint），以及 AWQ、ParoQuant 等量化研究成果。