开源 GLM-5.3-Flash 预填充引擎吞吐达 vLLM 三倍

开发者 Kan Zhu 开源 SSEngine-GLM5.3-Flash,这是一个面向 GLM-5.3-Flash、运行在 4 张 B200 GPU 上的预填充(prefill)引擎,专为 coding agent 服务场景打造。实测显示其请求吞吐达到 vLLM 的 3.2 倍,为高并发的代码智能体推理部署提供了新的高性能开源方案。

2026-11-19 ~ 2026-11-19 · 2 条相关