同一套 DeepSeek 内核两种优化路线：vLLM 拆专家、SGLang 降访存

AccBalanced · x · 2026-10-27

ekzhang1 发布个人项目 Resin——一个用于快速构建 LLM 推理引擎的 runtime：把推理的通用部分做成可复用核心，只需让 agent 为目标模型和硬件（GPU/TPU/AMD）编写 forward pass 和 kernels，即可生成独立推理引擎。helloericsf 借此对比了 vLLM 与 SGLang 对 DeepSeek 开源内核的不同优化路径：两者性能都与 DeepInfer 相差几个百分点以内，但 vLLM 判断瓶颈在专家层而非注意力，于是把专家分布到更多 GPU 上做负载均衡；SGLang 则专注减少内存流量与内核启动次数。