DeepSeek flash 端点冲上约 1000 TPS,内核优化全靠模型自己改

saranormous · x · 2026-11-05

DeepSeek v4.1 flash 的快速端点在 Artificial Analysis 上达到 991 output tokens/s,处于「每任务耗时最短」的帕累托前沿。据开发者介绍,团队用内部 harness 对 80 多个 kernel 和瓶颈做了优化,涵盖 kernel fusion、programmatic dependent launch 等。

更值得注意的趋势是「模型驱动的模型基础设施」:profiling、重写、benchmark 这类内核优化任务定义明确且可验证,是 agent 理想的爬坡任务——例如 Kimi k3 的早期 checkpoint 就承担了其后续开发中大部分内核优化工作,模型在 kernel 任务上已比人类好出数量级。

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →