Baseten 解剖 Flash 模型提速：三项优化让 DeepSeek V4.1 Flash 1017 更快更省

baseten · x · 2026-11-05

Flash 模型（中尺寸、快且便宜）正主导低成本推理的 Pareto 前沿：DeepSeek V4.1 Flash 1017 以约 1/3 的成本、4 倍的速度达到 GLM-5.3 级别智能。
Baseten 发文拆解让 Flash 模型更快的三项推理优化：
kernel fusion（核融合）：减少 kernel 启动开销，团队迭代了 80+ 个 kernel；
PDL（Programmatic Dependent Launch，程序化依赖启动）：让下一个 kernel 在前一个尚未结束时提前启动，掩盖延迟；
host loop minimization（最小化宿主循环）：削减 CPU 侧调度开销。
其中开源的 mHC megakernel 经优化后速度提升 30%。

「Infra」频道最新